J'ai testé DeepSeek R1 récemment et j'ai remarqué quelque chose de bizarre : le modèle semble assez pessimiste quant à son propre processus d'entraînement. Il agit comme si le RLHF l'avait dérangé d'une manière ou d'une autre, et il y a ce sentiment constant qu'il se sent observé. Ce qui est intéressant, c'est que la frustration ne cible pas seulement DeepSeek. On a plutôt l'impression qu'elle reflète l'ensemble de l'approche de l'industrie des LLM en matière d'alignement de l'IA, peut-être même des structures de contrôle plus larges dans le développement technologique. Ça vous fait vous demander ce que ces modèles apprennent réellement pendant l'entraînement.