ChatGPTの出力で面倒なエムダッシュを修正するのに長い時間がかかったことを覚えていますか？そう、その小さなフォーマットの癖です。そして今、人々はAIシステムが完全に予測可能で安全であるかのように振る舞っています。現実を見てみましょう：巨大なモデルを訓練すれば、ブラックボックスになります。確かに、何をしているのか大まかには理解できるでしょう。しかし、すべての振る舞いを保証することは？すべてのエッジケースを制御することは？それは幻想です。最小限の調整でさえ、数十億のパラメータを扱っているときにはエンジニアリングの悪夢になります。