got @typesafeai’s new model Jev to play Super Mario Bros.

@kzkhykw

今めっちゃバズってる @typesafeai の新しいAIモデル「Jev」にマリオを操作させてるけど人間にプレイにしか見えない。驚き屋にならざるを得ないというか このJevまだ勉強途中なんですが、シンプルだけど画期的で、通常のLLMは確率でテキストを生成する仕組みだけど、Jevはテキストそのものではなく、確率付きのテキストの配列みたいな構造化データを並列に提示する仕組みっぽい —— その構造化データをソフトウェアが決定論的なアプローチ(普通に条件分岐とか)で処理することで、まずLLM(Jev)の応答速度が何十倍か何百倍くらい早いので、このマリオのプレイ動画みたいなことができる —— LLMの出力もJSONフォーマットにできるんだけどそれはテキストの生成をする上で結果を構造的に出してるだけで。Jevはそもそもの推論ステップが違う、つまり最終的に一文のテキストを生成するのではなく、その途中の各テキストの出現確率を構造化データとして出力するように学習されて推論してるからめっちゃ早いしめっちゃ安くなる —— このマリオの操作みたいに、今の画面の状態をインプットにして、どの操作をさせるのかを確率付きの動作パターンの配列で出すんだったら、確かに従来のテキスト生成AIよりもこっちのが良いのは直感的にわかる —— 他にも問い合わせの分類や、人間のレビュー可否の判断とかの確率に基づく処理ってそこらじゅうにあってそれらは従来のテキスト生成AIじゃなくて、Jevみたいなアプローチのが良いのかもしれない —— 創業者はOpenAIを3年前くらいに辞めて、2年間くらいステルスで研究開発してたらしい😬 https://t.co/nx6RryonQv