「AIが仕事を奪う」は人を過小評価している。芥川賞作家・九段理江と東大AI研究者が語る、人類の未来

第170回『芥川賞』を受賞した作家・九段理江の小説『東京都同情塔』は、生成AIを活用して執筆されたことで大きな話題となった。舞台は、ChatGPTを思わせるAIアシスタント「AI-built」が当たり前に普及した東京。気鋭の建築家である主人公・牧名沙羅は、犯罪者に寛容な刑務所「シンパシータワートーキョー」の設計に従事する。空虚な応答を繰り返すばかりの「AI-built」と、苛立ちを隠せない沙羅との対話が、ある種の「生成AI批判」として読めるところも本作の見所のひとつだ。

『生成AIで世界はこう変わる』の著者であるAI研究者・今井翔太も、この「生成AIを用いた芥川賞受賞作品」にいち早く反応した。今井によれば、近年のAIの急速な発展は、人類の歴史になぞらえれば「言語を獲得し始めた時期」に近いのだという。そしてAIによって、再び文明のあり方が大きく変わるのではないか──そう指摘する。

生成AIの登場は、文明と創作の未来にどのような影響をもたらすのか。今井氏は石川県金沢市の出身、九段氏は同市の本屋で働いた経験があり、金沢にゆかりのある両名。『東京都同情塔』執筆の舞台裏から、両者がともに愛読するというユヴァル・ノア・ハラリの文明論、これからの文学のありかたまで、縦横無尽に語り合った。

AIで優れた小説が書けたなら、それはAIを使った人間が優れているだけ

―「全体の5%ぐらい生成AIの文章をそのまま使っている」という会見での九段さんの発言が話題になったあと、すぐに今井さんがXで『東京都同情塔』を購入されたとポストしていましたよね。実際に同書を読んでみて、どのような感想を持ちましたか?

今井:じつは今回の対談の依頼をいただいた時点では、まだ作品を読めていなかったんです。生成AIを使った作品が芥川賞を受賞したということで、これはぜひ読んでみようと思っていたんですが。九段さんも金沢にゆかりがあるということを知り、対談では泉鏡花(※)なんかの話もできたらなと思いつつ読み始めたんです。

そうしたら最初の2行ぐらいで「これはオーウェル(※)の『一九八四年』じゃないか」と驚きまして。「これは、とんでもなく思想が強い人が書いているぞ」と(笑)。そこから頭を切り替えて、一気に読み終えました。大変面白かったです。

※泉鏡花=金沢市下新町生まれの小説家。代表作に『高野聖』などがある
※ジョージ・オーウェル=イギリスの作家、ジャーナリスト、民主社会主義者。『一九八四』はディストピアSF小説で、全体主義国家によって分割統治された近未来世界の恐怖を描いている

九段:ありがとうございます。どこが一番印象に残りましたか。

今井:やっぱり冒頭ですかね。バベルの塔の再現。言葉を濫用したことで、お互いの言語が理解できなくなる。文明論が好きな人なら、この部分だけでも「とんでもない人が現れた」と気づくと思います。

九段:光栄です。ちなみに、どこで生成AIを使っているかわかりましたか?

今井:普通に「AI-built」(作中に登場するAIチャットツール)の応答部分ですかね……? でも、どこからどこまでかはわからないです。僕もよく「生成AIがつくった文章を検知する方法はないんですか」と聞かれますが、正直短文であれば見分けられないと思います。長い文になってくると、AIと人間とで「よく使う言葉」の分布が異なるので、気づけたりもするんですが。

九段:実際にChatGPTが出力したものをそのまま使ったのは、「君は、自分が文盲であると知っている?」という沙羅の問いに対する回答の1文目のみなんです。会見では感覚で「5%」と答えてしまったんですが、実際には1%にも満たない。でも、この小説を書くうえで、ChatGPTは5%かそれ以上の貢献をしてくれたと感じています。執筆中も、ずっとAIと対話していましたので。

―本作は「AIで書かれている」というよりも、対話を通じて「AIを描いている」というほうが近いように感じます。

今井:なんならAIを徹底的にからかっていますよね。そこが面白かったな。「生成AIを使った小説ってどんなものだろう」と読み始めたら、思った以上にAIの空虚さが厳しく批判されていた。

九段:今回ChatGPTに「取材」をするなかで、「私のことを傷つけてください」「私をめちゃくちゃに悲しませてください」と依頼してみたりもしたんです。でも、全然答えてくれない。これだけ賢いなら、その方法を絶対に知っているはずなのに。「AI-built」とのやりとりは、その違和感を反映しながら書いています。

今井:ただ、本来AIはもっと口が悪いものなんですよ。いまのChatGPTに使われているAIよりも前のバージョンだと、ネット上の発言などを学習ソースにしているので、倫理的によくない内容をたくさん出力してしまっていました。それを数年がかりでなんとかチューニングして、誰もが安全に使えるようにしたのが現在のChatGPTなんです。その意味では、九段さんの作品に描かれているAIは、あくまでも人間による制限の加わったものといえますね。

―作品に反映されているのは、あくまでも九段さんが執筆していた「2023年時点のChatGPT」の姿なのかもしれないと。

今井:もっとも、Web上のデータを集めて学習するという仕組み自体は同じなので、普通に質問しても一般論的な回答しか返ってこないというのは、生成AI一般の傾向として言えると思います。生成AIを創作などにうまく活用するには、質問の仕方を工夫する必要がありますね。AIを使うことで実際に優れた小説が書かれたのであれば、それはAIではなく書き手が優れているんです。

九段:今井さんがおっしゃったことは、小説を書く人であれば理解いただけることだと思うんです。でも、私の発言が思いのほか広い範囲に届いてしまったことで、「AIを使えば良い小説が書ける」という認識を広めてしまったとしたら、それはよくなかったですね。

今井:小説に限らず、生成AIについてのよくある誤解だと思います。AIを使えば万能になれるのではなく、むしろ使う側の資質が問われてしまう。少なくとも現在のAIについては、そういう性質を持ったツールだと認識して使うべきだと思いますね。

いまのAIを取り巻く状況は、人類が言語を獲得し始めた時期と同じ

九段:さきほど、冒頭で『一九八四年』を想起したとおっしゃいましたよね。最後まで読んでみても、オーウェルっぽさは感じましたか?

今井:影響はだいぶ感じました。特に言語に対する感覚ですかね。ただちょっと違うのは、オーウェルが作中に登場させた新言語である「ニュースピーク」の場合、語彙が減っていきますよね。対して九段さんは、むしろ新語をどんどんつくり出している。それによって新たな現実を概念として固定させようとしているところが、オーウェルとの違いかなと思いました。

九段:面白いですね。オーウェルももちろん意識したんですけど、じつは一番参考にしたのがレイ・ブラッドベリ(※)『華氏451度』なんです。

※レイ・ブラッドベリ=アメリカ出身の作家。代表作に『火星年代記』『刺青の男』『華氏451度』などがある

今井:そうなんですか。読んだのが昔過ぎてあまり覚えていないですが、本を燃やすやつですよね。

九段:そう、本を燃やしていくことで、人間の認識や意識も変容していくという内容です。それでも本を読みたいという人はいなくならず、焚書に抵抗する展開になるんですが、私はこの作品がとても好きで。

今井:なるほど。ちなみに九段さんは、「思考が言語によってかなり制御されている」と思っている派の人間ですか?

九段:うーん、そうですね。そういうふうに思っている人間だと思います。

今井:僕と同じですね。ユヴァル・ノア・ハラリ(※)の『サピエンス全史』とかはお好きですか?

※ユヴァル・ノア・ハラリ=イスラエル出身の歴史学者、哲学者。代表作に『サピエンス全史』『ホモ・デウス』『21 Lessons』などがある

九段:もちろん大好きです! ハラリは全部好きで、『ホモ・デウス』も『21 Lessons』も読んでいます。

今井:やっぱりそうですか。あの本のなかで、人類の700万年以上にわたる歴史において言語を獲得したのは5万年前と、比較的最近であることが語られていますよね。そのたった5万年のあいだに人類の文明は急速に発達したわけですが、ハラリはその要因を言語の獲得にあると論じています。

そして私は、いまのAIも人類における「言語を獲得しはじめた時期」にあると思っているんです。つまり、ここからAIが一気に発展し、文明のあり方が大きく変わっていくんじゃないかと。

九段:文明論には私も強く関心を持っています。私が『サピエンス全史』を読んだのは小説家デビューの何年か前なんですが、あの本に出てくる「人類は共通の物語を持つことによって発展してきた」というテーマにとても影響を受けたんです。物語の可能性みたいなものを感じて、小説を書こうと思って。

今井:なるほど、そこまで大きな影響だとは思いませんでした。

九段:今井さんの著書(『生成AIで世界はこう変わる』)の参考文献リストにもハラリがありますね。私、ここに載っている篠田謙一(※)『人類の起源』とかも読んでますよ。

※篠田謙一=新潟県出身の分子人類学者、医学博士。2021年に国立科学博物館館長に就任。代表作に『日本人になった祖先たち—DNAから解明するその多元的構造』『人類の起源』などがある

今井:おお、そうですか。ネアンデルタール人が滅びたのも言語に起因するといわれていますよね。言語が重要なのは、「嘘を考える」ことができるようになるからだと僕は考えていて。目の前に存在しないもののことを考えられるようになる。それで、緊急時の備えなどで大きな差が出たんじゃないかなと。

九段:そうですね。私もネアンデルタール人とホモ・サピエンスの違いはなんだろうって、よく考えています。

「『それだけ言いに来ました』ってどういう意味ですか?」

―さきほど、生成AIを使われている箇所が実際には1文程度だというお話がありました。そのほかの「AI-built」の応答については、九段さん自身が執筆されているということですね。

九段:そうです。先ほどお伝えした1文目だけChatGPTの回答をそのまま使い、2文目以降は、「AI-built」の性格を踏まえて書いています。そのほかの部分も同様です。

今井:AIらしく見せるための工夫ってあるんでしょうか。

九段:強いて言えば、ふわっとした、実態のない言葉を使うことは意識しました。やたらカタカナを使ってみたりとか。「共感」とかもそうですよね。

今井:なるほど。プロンプト(AIに対する命令)を工夫すれば、もう少し中身のある回答を引き出すことも可能だとは思います。でも、この作品の場合は、デフォルトの薄い回答のほうがそれっぽいのかな。

―『東京都同情塔』の執筆を始められたのは2023年の7月からだとうかがいました。AIを使用するというアイデアははじめからあったのでしょうか。

九段:最初からAIをテーマにしようと思っていたわけではなくて。これまで、編集者の方から言われたことに対し、わからなかったことを「これってどういう意味?」とChatGPTに聞いたりしていました。質問をして答えが返ってきて、また質問して……。そうしたやりとりが「なんだかショートショートっぽいな」と思ったんです。それがきっかけの一つです。

今井:ちなみに編集者の方から言われた内容ってどんなものだったんですか。

九段:前作が芥川賞の候補に残らなくて、すごく落ち込んでいたんです。それで編集者さんにご飯に連れて行ってもらって。とても楽しい時間だったんですが、別れ際に秋葉原の駅で、「九段さん、原稿待ってますね。今日はそれだけ言いに来ました」と言われたんです。

私、「それだけ言いに来た」ってどういう意味だろう、と混乱してしまって。家に帰ってからChatGPTに「『それだけ言いに来ました』とはどういう意味ですか」って聞いてみたんです。そうしたら、「強い熱意と緊迫感を感じますね」みたいな答えが返ってきて。「熱意があるってことなんだ」と思って、それで頑張って小説書こうって思えたんです。

―なぜかポジティブな着地になりましたね(笑)。

今井:最初からAIをからかうつもりで書き始めたわけではなかったんですね。

九段:そんな意地悪なことは全然思ってなかったです。ただやっぱり、主人公の沙羅さんの性格がだんだん確立されてきて、「彼女ならこう思うだろう」みたいな感じで、AIとの距離が変わってきたというのはありますね。「AI-built」が沙羅さんの思考や生活にまで入り込んでしまっている世界観。なので最終的にはかなり重要なモチーフにはなりました。

今井:沙羅さんがもしあのキャラクターじゃなかったら、もっとポジティブに扱われていた可能性もあるんですかね。

九段:職業が違ったらもちろんあり得たと思います。

創作をコンピュータが奪うことはあり得ない

―あらためて、AIと創作の関係についてどうお考えか、お二人にうかがってみたいです。

九段:新作(2024年3月発売)の『しをかくうま』で、まさにそんなテーマの内容を書いたんです。人々の頭のなかにはAIが埋め込まれていて、その力により思い浮かべたことがすべて実現する、というような設定です。コーヒーが飲みたいと思ったらすぐに用意されるし、詩を書きたいと思ったら脳が指令を出してくれて、すらすらと詩が書ける。

そんな世界のなかで、詩を書きたいと願う人間が主人公です。自分で詩を書きたいけど、普段はAIにすべてを任せているから、たまに思考すると頭が痛くなってしまう。それでもなお、詩を書きたいともがくんですね。

今井:なるほど、面白そうです。僕は思想とか創作とかって、ただ一つのゴールが存在するといったものではないと思っているんです。科学は発展が一直線だけど、創作はある種の循環のようなもので、正解はない。そしてAIが発展しきったあとには、ゴールのないものだけが人間に残される。そんなふうに考えているので、自分にとって、その主人公はとてもまっとうな人間に感じます。

―「なんらかのルールに縛られている主人公が必死でそれに抗う」というのは、九段作品に共通しているモチーフの一つなんでしょうか。

九段:そうですね。普段から結構、AIと人間の違いとか、ホモ・サピエンスとネアンデルタール人の違いとかについて考えていますが、テクノロジーが発展すると、人間が人間である意味もなくなってくるかなって。

私は、人間が人間である意味がなくてもいいと思っています。意味がないならないなりの表現もある。私は文学を通じて、それを考えていきたいんです。

今井:やっぱり、とんでもなく思想が強い人ですね。

九段:そういうことを考えられる小説というメディアを、私はやっぱり愛しているんですよね。今回の執筆もそうでしたが、AIも小説をつくっていくうえでのパートナーなんです。AIで思考が制限されるとか、仕事奪われるという意見も聞きますが、それは人間を過小評価しすぎている気がして。むしろ人間の弱さを教えてくれるところが、AIのいいところでもあると思っています。

今井:おっしゃるとおりですね。あえて無粋な言い方をすると、コンピュータの性能がどれだけ高まったとしても、「可能な文字の組み合わせ」の膨大さには追いつけないんです。例えば、最高性能のコンピュータでも、たった11文字の英単語の組み合わせをすべて汲み尽くすのに1年かかるといわれています(※)。

それこそボルヘスの『バベルの図書館』じゃないですが、文字の可能性を汲み尽くすことは、それこそ人間にもコンピュータにも不可能なんです。なので、創作をコンピュータが奪うことはあり得ない。むしろ、コンピュータと一緒に面白いものを発掘していく未来を考えたほうがいいのかなと思いますね。

※スチュアート・ラッセル著『AI新生』より。物理学者が考えた究極のパソコンで英単語を列挙するタスクを実行した場合に1年で可能な文字数が11単語とされている

書籍情報
『東京都同情塔』/ 新潮社
九段理江 著
1,870円(税込)
『生成AIで世界はこう変わる』 / SB新書
今井翔太 著
990円(税込)
プロフィール
九段理江 (くだん りえ)

1990年、埼玉生まれ。2021年、『悪い音楽』で第126回文學界新人賞を受賞しデビュー。同年発表の『Schoolgirl』が第166回芥川龍之介賞、第35回三島由紀夫賞候補に。2023年3月、同作で第73回芸術選奨新人賞を受賞。11月、『しをかくうま』で第45回野間文芸新人賞を受賞。12月、『東京都同情塔』(新潮社)で第170回芥川龍之介賞を受賞。2014年3月に『しをかくうま』(文藝春秋)を上梓。

今井翔太 (いまい しょうた)

1994年、石川県金沢市生まれ。東京大学 大学院工学系研究科技術経営戦略学専攻 松尾研究室に所属。博士(工学)。 人工知能分野における強化学習の研究、特にマルチエージェント強化学習の研究に従事。ChatGPT登場以降は、大規模言語モデル等の生成AIにおける強化学習の活用に興味。著書に『生成AIで世界はこう変わる』(SB新書)など。



フィードバック 36

新たな発見や感動を得ることはできましたか?

  • HOME
  • Book
  • 「AIが仕事を奪う」は人を過小評価している。芥川賞作家・九段理江と東大AI研究者が語る、人類の未来

Special Feature

Crossing??

CINRAメディア20周年を節目に考える、カルチャーシーンの「これまで」と「これから」。過去と未来の「交差点」、そしてカルチャーとソーシャルの「交差点」に立ち、これまでの20年を振り返りながら、未来をよりよくしていくために何ができるのか?

詳しくみる

JOB

これからの企業を彩る9つのバッヂ認証システム

グリーンカンパニー

グリーンカンパニーについて
グリーンカンパニーについて