生成AIの現在レベル

　生成AIの登場で、これからのネット上の知的空間は劇的に変化しそうだ。
　これからの仕事の仕方は激変する。
　場合によっては、不要になる職種も出てきそうだ。
　だが、現状の生成AIを使ってみて分かるのは、AIは、まだまだ実力不足との印象はぬぐえない。
　
　生成AIに小学校レベルの文章題を解かせるとよくわかる。
　なかなか正解を出してくれない。
　少し込み入った内容になると、まったくダメだ。
　AIの回答は、それらしい表現でいろんなことが書かれているが、すべて的外れででたらめ。
　回答の矛盾点を指摘すると、直ちに否定して、頑固に自分の回答が正しいと言い張る。
　それでも、おかしい点を理詰めで問い詰めようとすると、突然動きが停止して、「通信が切れました」となる。
　たぶん、一定方向に無理やり誘導しようとする質問には対応しないようにプログラミングされているのかもしれない。
　
　知識を問う質問は、もっとも利用できる。
　単純な事実を確認するだけなら、自分でネット検索しても調べられるが、AIに代わりに調べさせ、まとまった文章として出力させれば、その後の作業がやりやすい。
　例えば、「家康はいつどこでどんな理由で死んだか」という質問は、きめ細かく回答する。
　たぶん、ネット上に家康の死については情報が豊富なので、AIはその中から必要な情報を抽出するだけでいい。
　同じような調子で、歴史上の人物の死について調べてみた。
　吉田茂、東郷平八郎、藤原道長、源頼朝・・・。
　すると、いままで知らなかったことがいろいろ出てきて、「へーそうなんだ」となる。
　だが、途中で、変なことに気づく。
　回答のパターンがよく似てきたのだ。
　自分で、人物の死について調べてみると、AIの回答がずいぶんいい加減だったことが分かる。
　正しい情報も含まれているが、全然違う情報も。
　中には、明らかに別の人物の情報が混入しているケースもあった。

　生成AIは、言葉をつないでいるだけ。
　ある言葉の次に可能性の高い言葉を探し出して並べているだけだ。
　だから、道長の死について回答しているのに、途中から頼朝の情報に切り替わってつながってしまうということが起きる。
　そう、AIは物を考えていない。
　だから、人間が自分が考える代わりにAIに考えさせようとすると、酷い目に合う。

　これは、自分が専門としている分野について質問してみるとよくわかる。
　それらしい回答が返ってくるが、その内容は、当たり障りのない表面的な答えか、まったく別の内容を含んだでたらめであるか、どちらかだ。
　専門家をうならせるほどの内容は出てこない。
　これは当たり前だ。
　AIはネット上の情報を拾ってきて文章の形に整形して表示しているだけだからだ。
　ネット上にない情報は出力できないし、ネット上にない場合は、その周辺を探し回って同じような表現を見つけてつなげるだけ。
　だから、でたらめの内容になる。
　専門分野であれば、すぐにでたらめが分かるが、専門外の分野だと、それが見抜けない。
　ここがAIに頼ることの危険だ。
　
　AIは長い文章を要約してくれる。
　4000文字の文章を読ませ、400文字で要約せよ、と指示すると、ものの数秒で出力してくれる。
　要約文は、一見、筋が通っていて文章の趣旨を捉えているように見える。
　だが、元の文章と読み比べてみると、まったく印象が違う。
　AIは内容を理解して要約しているのではなく、言葉のつながりで文章を作っているだけ。
　主要な単語をピックアップしてその前後を別の言葉でつないで、日本語として自然な文章を出力している。
　文章として自然ではあっても、内容の信頼性はない。
　これが、日本語としてギクシャクした表現になっていたら、誰でも疑わしいと感じるが、文章が非常に自然なので、そこに違和感を覚えず、簡単に受け入れてしまう。
　ここもAIの危険なところだ。
　
　生成AIには、翻訳機能もある。
　英語のニュース記事を日本語に翻訳するのは簡単だ。
　しかも、日本語としてこなれた自然な文章で驚く。
　パソコンソフトでいろんな翻訳アプリがあるが、どんなに高価で進化したアプリでも、違和感のない翻訳文を出力する実力はない。
　ところが、生成AIの翻訳文は、文章に違和感がない。
　生成AIは翻訳アプリを超えたのか、と思ったがそうではない。
　生成AIは誤訳だらけだ。
　AIは自然な文章を出力することに長けているだけで、原文の意味やニュアンスを正しく翻訳することは考えられていない。
　まあ、ニュース記事程度の翻訳だったら、事実情報だけが分かればいいので問題は少ないが、微妙なニュアンスの違いが求められる文章を生成AIに翻訳させるのは危険が大きい。

　会議の議事録をAIに作らせることもできる。
　会議音声を録音しておき、それを自動で文字起こしし、更に要約させる。
　いままで、人間がやっていた手間がかかる議事録作成がAIで簡単に処理できる。
　これも、AIでは不十分なものにしかならない。
　せいぜい、AIに作らせたラフな議事録を基に、人間がチェックして正式な議事録を作成する、という使い方ではないか。
　
　AIは現状ではレベルが低く全面的に頼り切るには危なっかしい。
　そこには必ず人間のチェックがいる。
　すると、このチェックのためにヒトの手間がかかることになり、これが新たな負担になりそうだ。
　「こんなことなら、初めから自分でやった方が速い」ということになりかねない。
　
　ある大衆向け科学雑誌、毎号興味深いテーマをフルカラーの画像とともに平易に解説してあり、よく読む。
　その文章にはすべての漢字にふり仮名がふってある。
　小学生でも読めるようにとの配慮だろう。
　だが、このふり仮名が問題。
　時々、間違ったふり仮名がふってあるのだ。
　たぶん、コンピューターで自動的にふり仮名をふって、それを人間がチェックしているのだろうが、そのチェックが行き届かず、あちこちに見落としが残ってしまっているのだろう。
　これでは、小学生に間違った読みを教えてしまうようなもので、むしろ弊害が大きい。
　大人でも、難しい専門用語や固有名詞の場合は、ふり仮名は頼りになるが、あちこちに間違いが散見される文章では、危なっかしくて、信用できなくなる。
　生成AIの特集号のケースは最悪だった。
　あちこちに振り仮名間違いがあり、それが気になって読みにくくて仕方なかった。
　生成AIの限界と弊害を身をもって証明するような特集号であった。