QEU_ROUND2-3：　大規模言語モデル(LLM)上にQEUシステム(world)を構築する

～ またやるの？ ～ QEU:FOUNDER ： “久々に見てみましょう。QEUシステムのモジュール構成。今回からLLMを加えてみました。” D先生 ： “なるほどね・・・。でも、いま「私たちが立っている場所」って、Stable Diffusionを開発していた場所ですよね。” QEU:FOUNDER ： “ちょっと事情があり、LLMの開発は後回しします。強化学習にもどろう！ちょっと、2048ゲームをやり直してみたい。” D先生 ： “なんで・・・？ 今話題のATTENTION(の応用技術の開発)をやる んじゃなかったの？” QEU:FOUNDER ： “Attentionに切り込むために、強化学習から始めます。あとね、GPTにプログラムの生成を要求させてみて、どれだけプログラムの開発速度と質が上がるのかを確かめてもみたい。まずは、「ゲーム単体」をGPTに出してもらいましょう。” プロンプト：「ゲーム2048（4x4）をテキスト表示で動くようなpythonプログラムを生成してください。」 D先生 ： “うまく行きましたか？” QEU:FOUNDER ： “本当に驚いたんだけど、「マニュアル」付きでプログラムが出てきたよ。 プログラムの出来は90％、ただし方向が上下逆だった・・・（笑） 。これは、ボード配列の設定（配列番号+１＝上）から見ても間違えそうなポイントなんだけどね・・・。そこらへんを、ちょっとだけ修正したプログラムは、こちら（↓）です。” # 2048ゲームのロジック import random # ボードのサイズ SIZE = 4 # ボードを初期化する関数 def init_board (): # ボードは二次元リストで表現する board = [[ 0 ] * SIZE for _ in range ( SIZE )] # ランダムな位置に2か4を配置する add_random_tile ( board ) add_random_tile ( board ) return board # ランダムな位置に2か4を配置する関数 def add_random_tile ( board ): #...

～ 一見、無茶なデータセットの正体は？ ～ QEU:FOUNDER ： “ブログのリリース速度が落ちてきている「秋」・・・。もう、しようがない。これは、LLM（大規模言語モデル）の宿命・・・。” （QEUプロジェクトの「LLM３大テーマ」とは？） (1) 世界の中心にある日本語： 常体文と敬体文の情報を学習に使って、日本語のトークンをきめ細かくコントロールする (2) 世界平和のためのLLM： 歴史の見方を（立場によって）多面化させる (3) 「user-llm」をシステムとした、feedbackシステムの構築 D先生 ： “今回は、前回に引き続いて、さらに 「データセット(Dataset:DS)を晒す」 というの話でしたよね。” D先生 ： “・・・でコレなの？なんか、「3点セット」で学習させようというヘンテコなやり方ですねえ・・・。” QEU:FOUNDER ： “今回、huggingfaceにアップしたのは「初期化用」データセットだけだよ。前回の繰り返しになるけど、LLMにおける「認識」と「記憶」の話からやりましょうか・・・。” D先生 ： “これは私から説明します。汎用関数当てはめ器であるディープラーニングの発足の当初から「認識」という考え方がありました。その認識の良さというのが損失関数の滑らかさに現れるんですよね。でも、「記憶」という発想は生成AIから発生したものです。1つのLLMのファインチューニングのために複数のデータセットをシリアルにつなげるというアイデアは、「（DSの情報を）記憶」という点では禁じ手ではあるが、「認識（能力の向上）」という点ではアリじゃないかと・・・。” QEU:FOUNDER ： “「解説の代打」ありがと・・・（笑）。ちょっとDSの中身を見てみましょう。” C部長 ： “これは知っていますよ。QEUシステムでは日本語の文章を「常体」と「敬体」に分けるんですよね。” QEU:FOUNDER ： “この「初期化データセット」は、 常体を中国語にリンク させ、 敬体を英語にリンク させるための準備をするんです。” C部長 : “このDSは10エポックしか学習させないんでしょ？” QEU:FOUNDER ： “LLMに対して、 「ノリ」をわからせればOK です。この学...