AIの推論の仕組みと、それを逆手に取る書き方
言語モデルは、文章を考えてから書いているわけではありません。次に来る一語の確率を計算して、そこから一つ選ぶ。それを何千回も繰り返しているだけです。この身も蓋もない仕組みを理解すると、AIが得意なジャンルと苦手なジャンルが、好みではなく構造の問題として見えてきます。そして得意な側は、驚くほど強く引き出せます。
AIは一語ずつ、確率で選んでいる
「雨が降って」まで書いた時点で、モデルは次に来る語の確率を全語彙ぶん計算します。「きた」が高く、「いる」も高く、「タイヤキ」は限りなく低い。その分布から一つ引いて、また次を計算する。これだけです。
重要なのは、モデルは終わりを知らずに書き始めていることです。人間は結末を決めてから書けますが、モデルは一語ずつ進みながら、その都度もっともらしい続きを選びます。だから「途中まではいいのに、着地がぼやける」という現象が起きます。
この性質は欠点にも武器にもなります。着地を人間が決めて渡せば、モデルは途中を無限に埋められるからです。
温度とは、分布のどこから引くかの設定である
確率分布から一語を選ぶ時、最も確率の高いものだけを取り続けると、文章は無難になります。誰も間違いと言わない代わりに、誰も驚かない。これが温度の低い状態です。
温度を上げると、確率の低い語も選ばれるようになります。表現は意外になりますが、上げすぎると文が壊れます。平均か破綻かという綱渡りで、その中間に良い文章があります。
書き手の側からできるのは、温度をいじることではありません。分布そのものを変えることです。「切ない別れ」と渡せば、切ない別れの平均が中心になります。「引き止めに来たが、彼女が笑ったので言えなくなった」と渡せば、分布の中心がそこへ動く。指示とは、確率分布の山を動かす作業です。
直前の文章が、次の文章を強く縛る
モデルは文脈全体を見ますが、直前の数百字がとりわけ強く効きます。自分が書いた文体を、次の一語の材料にしてしまうからです。
私たちのサービスで実際に測ったことがあります。AIに長く書かせ続けると、読点の密度が回を追うごとに上がっていきました。一文字あたり0.04だったものが0.08になり、0.15まで増えた。読点で切り刻まれた文章は、読むと息が浅くなります。
原因は明快で、モデルが自分の直前の文章を真似ていたからです。渡す履歴の句読点を整えたところ、次の回で0.018まで戻りました。文体の劣化は、モデルの性能ではなく「自分の出力を食べ続けた結果」でした。
これは書き手にも使えます。AIに書かせたい文体の文章を、直前に置いておく。指示で「短い文で」と言うより、短い文の段落を一つ見せるほうが、はるかに強く効きます。
「一文を短く、テンポよく書いてください」
(前の話の末尾をこう書いておく)
扉が開いた。誰もいない。
足音だけが、近づいてくる。
→ 次の回も、この密度で書かれる
学習データが濃い領域ほど、AIは強い
モデルの出力は、学習した文章の分布に従います。つまり書かれた量が多いジャンルほど、精度が上がります。これは怠慢ではなく、確率の原理です。
様式が確立しているジャンルは特に強い。異世界転生、なろう系、学園もの、王道の恋愛。「読者がこの型を期待している」という共通了解があるジャンルでは、平均的であることが欠点になりません。むしろテンプレを外さないことが品質です。
官能やホラーの雰囲気づくりも強い領域です。どちらも情景と身体感覚の積み重ねで作られ、型がはっきりしているからです。
逆に言えば、こうしたジャンルでAIを使うなら、奇をてらわないほうがいい。型は守らせて、歪みは一点だけ人間が足す。これが最も効く配分です。
仕組みを逆手に取る三つの使い方
1. 着地だけ先に渡す。 モデルは終わりを知らずに書き始めるので、結末を渡すと途中の質が跳ね上がります。「最後、彼女は振り返らずに去る」と先に決めてから書かせてください。
2. 文体は見本で渡す。 直前の文章が強く効くので、望む文体の段落を先に置く。形容詞で頼むより確実です。
3. 何度も引く。 一語ずつ確率で選んでいる以上、同じ指示でも毎回違うものが出ます。これは欠陥ではなく、分布からサンプリングし直せるということです。三回出して一番いいものを選ぶのが、正しい使い方です。
分布の外に出る、唯一の方法
ここまで仕組みの話をしてきた結論として、一つだけはっきり言えることがあります。確率分布の外に出る方法は、外にある情報を渡すこと以外にありません。
温度を上げても出ません。それは分布の裾を引くだけで、珍しい語が出るのと固有の情報が出るのは別のことです。プロンプトを長くしても出ません。平均の指示が増えるだけです。
外にある情報とは何か。モデルが経験していないものです。そしてモデルは五感を持たず、人生を持っていません。だから答えは一つに絞られます。あなたが生きてきた時間の中にあるもの。 価値観、記憶、嗜好、許せないこと。
これは技術の話ではなく、構造の話です。書く技術を持っている人が有利だった時代から、固有の何かを持っている人が有利な時代へ、条件が入れ替わりつつあります。
よくある質問
同じ指示で毎回違う結果が出ます
仕組み上そうなります。確率分布から引いているので、引くたびに変わります。欠陥ではなく、選び直せる利点として使ってください。
温度を自分で調整できますか
Noveliaでは調整しません。書き手が触るべきは温度ではなく指示の具体性です。具体的な事実を渡すほうが、温度をいじるより確実に分布が動きます。
長く書かせると文体が崩れます
自分の出力を食べ続けるからです。区切りごとに、望む文体の見本を見せ直してください。私たちも履歴の句読点を整える処理を入れて、実測で改善しました。