天使と悪魔のビジネス雑記帳

　読売新聞の報道による。
　虐待判定のAIシステムについて、こども家庭庁が導入見送りを決めた。
　国が２０２１年度から約１０億円をかけて開発を進め、最終的な判断を下す児童相談所の職員を補助する役割が期待されていた。
　テスト段階で判定ミスが６割に上った。
　ＡＩは虐待の判断にはなじまず、実用化は困難と結論付けた。

　このシステム開発に10億円をかけていたことも驚きだが、AIに対する幻想がここまで侵食していたのかとびっくりだ。
　最近の生成AIの登場でAIへの期待感が高まっている。
　無料版のAIサイトを使っていろいろ質問してみると、たちどころに答えを返してくれる。
　複雑な質問や専門的な質問にも瞬時に答えが返ってくる。
　そのスピード感と回答のリアルさに驚かされる。
　これを使って業務の効率化を目指そうとしたくなるのは分かる。
　だが、AIは神ではない。
　ただネット上に存在する情報から必要な言葉を抜き出し、それを自然な表現でつなげて表示しているだけだ。
　なのに、どんな質問をしてもたちどころに詳しい答えを返してくれる神のように錯覚してしまう。
　ここに問題がある。

　こども家庭庁の虐待判定AIの開発も、この幻想に捕らわれた発想で進められたものだろう。
　入力されたデータは5000件だったという。
　AIのデータベースとしてはあまりにも少ない。
　これでは判定精度が上がらないのは明らか。
　開発費10億円のほとんどは、データベースの入力作業に費やされたのではないだろうか。

　AIのデータベースとしては、少なくとも万単位のデータがいる。
　AIの利点は、正しい答えを出してくれることではない。
　膨大なデータベースを探索し、その中から必要な情報をピンポイントでピックアップし、瞬時に整った表現で提示してくれるところにある。
　データベースが間違っていたら、間違った答えが出るし、データベースが貧弱だったら、貧弱な答えしか返ってこない。
　データベースに存在しない情報は？
　答えが返ってこない。
　しかも問題なのは、データベースが偏っているとか不足しているということをAIには分からないということだ。
　だから、大事な情報が欠落していたとしても、それを無視してまるで問題ないかのような答えを平然と返してくる。
　それを読んだ人間は、重大な情報が欠落していることも、データが偏っていることも気づかない。
　まるで神のご託宣をいただくように、AIの答えを信用してしまう。
　これは重大な事態を引き起こす。

　虐待判定のAIは使い物にならないことが早々に分かってよかった。
　導入断念の判断も見事だった。
　
　



　

　

　産経新聞の報道による。
　三菱UFJ銀行の貸金庫窃盗問題。
　まだ事件化されていないので、窃盗事件ではなく、窃盗問題という表記で報道されている。
　同行の行員が顧客の貸金庫から金品を盗んでいたことが発覚。
　被害は、60人の顧客から十数億円相当の額に上るという。
　行為は2020年4月から24年10月にまで及び、顧客からの指摘を受けて初めて銀行側が気づいたという。
　この行員は、貸金庫や予備鍵を管理する立場だったようだ。

　驚くべき点は２つ。
　１つは、このような窃盗が１行員の悪意で簡単に実行できてしまったこと。
　もう１つは、4年以上にわたって、発覚せずに犯行が繰り返されていたこと。

　貸金庫は、行員の鍵と利用者の鍵の両方が揃ったときに開けることができる仕組みだったようだ。
　普通は、行員一人では開けられないし、利用者が鍵を紛失したとしても、拾得した者が本人に成りすまして勝手に金庫を開けられないようになっている。
　ところが、利用者が鍵を紛失した時のためにスペアキーが銀行に保管されている。
　この行員はそのスペアキーを管理する立場にあったために、簡単に窃盗ができてしまった。
　もちろん、このスペアキーも厳重に保管されており、1つ1つ袋に封印されていて、取り出した痕跡がすぐに見つかるようになっている。
　だが、長期にわたって、定期的なチェックができていなかったようだ。
　もしかしたら、定期的なチェックはこの行員が行なっており、毎回「異常なし」の報告が上がっていたのかもしれない。
　
　銀行側は昨日12月16日に記者会見を行ない、頭取が謝罪した。
　10月31日に発覚してから、1か月以上放置したために、ネット上で非難が沸騰していた。
　その圧力に耐えかねての謝罪会見だったようだ。
　銀行側は当初は、一行員の犯罪として捉え、会見の必要性を感じていなかった。
　ところが、野村證券が従業員の強盗事件について謝罪会見したころから様子が変わってきた。
　一行員の犯罪で済ますことができなくなり、謝罪会見に追い込まれた。
　マスメディアはこの問題については、熱量をもって報道していなかった。
　大手スポンサーへの気遣いがあったのだろうか。
　ところが、ネット世論は許さなかった。
　ネット世論はもはやこれほどの影響力を持つに至った。

　ヒトの噂は75日で消えるが、ネット世論はその痕跡が永遠に残る。
　対応を間違えると、ダメージがいつまでも尾を引いてしまう。
　ネット世論は放置しない・・・これがこれからのメディア対応の原則になりそうだ。

　銀行側は既に被害者への補償を始めている。
　だが、これは難航が予想される。
　貸金庫の中身は銀行側は把握していない。
　被害者も自身の被害額を証明するのが難しい。
　犯人もどの金庫からいくら盗んだなどという記録はないだろう。
　貸金庫に現金を入れるのは、表に出せないカネなのでそこに保管しているケースがある。
　そうなるとますます被害額の確定が難しい。
　犯人はそこに付け入るように犯行を繰り返していたのかもしれない。




　
　
　
　

　兵庫県議会から不信任決議を受け失職した斎藤元彦前知事が出直し選で再選。
　昨日20時の投票終了時間直後に「当選確実」を報じたテレビ局があった。
　それに刺激されたように、他局も次々と当確を打っていった。
　NHKだけは慎重だった。
　10時10分に中間の集計が発表されたが、それでも慎重だった。
　NHKが当確を報じたのは23時過ぎ。
　既に斎藤氏の勝利宣言が済んだ後だった。

　新聞やテレビ報道は驚きをもってトップニュースで報じている。
　注目は、なぜあれほど不人気だった斎藤氏が当選したのか、というマスコミの解説だ。
　というのは、斎藤知事はマスコミ報道によって、ものすごい逆風にさらされていたからだ。
　職員への「パワハラ」や外部業者に対する「おねだり」や「キックバック」、更に内部告発者への不当な圧力で自殺に追いやったことなど、一方的な報道洪水によって、斎藤氏のイメージは地に落ちていた。
　普通に考えれば、その斎藤氏が当選できるわけがない。
　どうして斎藤氏は当選したのか、これはマスコミがまず分析し、解説しなければならないところだ。
　
　いまのところ、この分析をしっかりできているマスコミはない。
「候補者が乱立して、反斎藤票が分散した」
「政党の支持があいまいで反斎藤の候補に強力なバックアップができなかった」
「斎藤陣営はSNSを駆使して、ネット世論を盛り上げることに成功した」

　斎藤氏勝利の理由づけに苦労している様子が見える。
　産経新聞は記事の中でこんな言葉で分析を締めくくっている。
「今回は知事の資質だけでなく、既成政党の存在意義も問われる選挙だったといえる」
　政党の対応がバラバラだったために「四面楚歌だった斎藤氏の猛追を許した」と結論づけているのだ。
　まるで政党がだらしないために「斎藤氏の再選」なんてあってはならないことが起きてしまったかのようだ。
　だが、この分析は本質をわざと隠している。
　今回の選挙で問われたのは、既成政党の存在意義ではなく、マスコミの存在意義だろう。

　SNSで斎藤支持が盛り上がったのは、単に話題作りに成功したためではない。
　大手メディアが、県民が本当に知りたがっている大事な情報をしっかり報じないことが原因だ。
　当初は、マスコミの報じる情報洪水の中、斎藤知事への不信感が蔓延していた。
　ところが、斎藤氏自身がかたくなにパワハラを否定し続けたこと、告発者への処分を正当だったと主張し続けたこと、そして、斎藤氏の見るからに繊細で優しそうな風貌から、違和感を覚える人々が出てきた。
　決定的だったのは、失職の後、次の知事選に再出馬すると表明したこと。
　誰もが当選の可能性がない無謀な挑戦だと思った。
　ところが、斎藤氏がひとりで駅頭に立ち、深々と頭を下げ続ける姿を見て、印象が変わり始めた。
　
　これまで報じられてきた内容を思い返すと、「不正を働いた」とか「公金を横領した」とか、明らかな犯罪はなかったし、私欲のために県政をゆがませたような話もなかった。
　県職員を厳しく叱責したというだけだ。
　あの優しそうな斎藤氏が厳しく叱責するぐらいだから、むしろ県職員の働きが悪すぎたのではないのか。
　叱責された職員が腹いせに告発文をマスコミや議員らにばらまいたのではないのか。
　という疑問が浮かぶ。
　そこに、ネット上で影響力のあるユーチューバーが呼応し、疑問を発し始めた。
　更に、フリーのジャーナリストが応じ、ついにNHK党の立花氏が動くに至った。
　なんと、立花氏は県知事選に立候補し、発信力の弱い斎藤氏を助けるために選挙活動を始めたのだ。
　立花氏の発信力が抜群で、すぐにネット上の注目を集めた。
　そうなると、関係者しか知らないような情報が続々と彼のもとに集まるようになる。
　それを立花氏はためらいもなくネット上にアップし、街頭演説で披露し、さらには政見放送の中で暴露する。
　その中で、県民局長の死は、斎藤知事の圧力が原因ではなく、プライベートの事情に起因するものであることをぶちまけた。
　この情報に接し、いままで違和感を覚えてきたもやもやとしたものが一気に晴れた。
　それで、ネット上で斎藤支持の世論が急速に拡大していったのだ。

　告発文を作成した県民局長の使用していた公用パソコンの中身に、自殺の原因かもしれないプライベートの情報が記録されていたが、それを百条委員会で公表を無理やり差し止めていることが分かる音声情報が流出。
　更に、副知事がマスコミの囲み取材を受けたときに、プライベート情報の存在を述べようとするのを、記者らが無理やり静止した音声まで流出。
　マスコミの記者が取材対象者の発言を封じようとする異様な光景だった。
　議会やマスコミが総ぐるみで大事な情報を隠そうとしているのではないか、マスコミはすべての事情を分かった上で、世論を特定の方向にもっていこうとしているのではないか、との疑念が噴出。
　ネット世論の沸騰に拍車をかけた。　
　
　ネット世論の呼びかけは、「マスゴミに騙されるな。斎藤さんを守れ」だった。
　今回の選挙は、既成政党が敗北したのではない。
　大手マスコミがネット世論に敗北した事例だ。
　

　本日、16時43分ごろ日向灘でM7.1の地震が発生した。
　直後に、南海トラフ臨時情報が発表された。
　想定震源域で、M７以上の地震が発生したので、臨時情報発出の条件に合致したからだ。
　この臨時情報のシステムは運用が始まって5年になるが、発出されたのは今回が初めてだ。

　臨時情報（調査中）が発出されると、専門家会議が招集され、これが巨大地震の兆候であるかどうかが検討される。
　その結果は2時間以内に発表される手はずだ。
　その通り、19時ごろに第2報が発表された。
　それが「巨大地震注意」というもの。
　巨大地震発生の可能性が普段よりも数倍高くなったと判断された。
　
　この解釈は難しい。
　普段よりも数倍と聞くと、ものすごく可能性が高まったような印象だが、
　もともと南海トラフ地震は30年以内に70％〜80％と高い確率で予想されており、1週間の可能性が数倍になったとしても、1000分の１の確率が数百分の１に高まった程度に過ぎない。
　南海トラフ地震は、いつ起きてもおかしくない切迫した地震であり、この注意情報が出ても出なくても、対応方法としては変わらない。
　普段の防災対策について、「これを機に見直しておきましょう」という程度の意味しかない。

　これが、注意情報ではなく、「警戒情報」だったら、様子は異なる。
　警戒情報の場合は、巨大地震発生の前兆が明らかに観測されたことが確認されたことを意味するからだ。
　
　臨時情報については、運用開始以来、発出されたことがなく、この情報の意味が忘れられてきていることが問題視されていた。
　今回の注意情報について、NHKでは、その意味も含めて、丁寧に情報発信がされているようだ。
　国民への啓発の意味でも、今回の注意情報は重要だ。

　気象庁は「注意情報」を発表するが、国はこの情報を受けて国民がどうすべきかについては、特に言及がない。
　ここから先は、各自治体の役割だからだ。
　企業でも、この臨時情報を受けてどのように対応するかは、事前に検討する必要がある。
　

　産経新聞の報道による。
　厚労省は、小林製薬の紅麹サプリメント摂取後に死亡した疑いの事例が新たに76人に上ったことを発表した。
　
　当初から判明していた死亡例５件が知られていたが、その後、小林製薬の情報発信がなくなった。
　紅麹の健康被害は長期に影響を及ぼすものなので、一時の死亡例だけで終わるはずがない。
　不審に思った厚労省が、１３日に小林製薬に問い合わせたところ、追加情報はないとの即答だったが、１４日になって追加の事例があるとの報告が上がってきた。
　詳細な報告を求めたところ、２７日になって、いままで遺族からの相談が１７０件あり、その中で関連が疑われる事例が７６件あることが分かったという。
　
　小林製薬は、死亡例を完全に因果関係が証明された事例だけに限定しようとしていたようだ。
　サプリを飲んでいた人の中には、別の基礎疾患を持っている人もいる。
　直接の死因が、がんや心筋梗塞などのように別の要因によるものについては、事例から外し、報告の対象外と勝手に決めつけていたらしい。
　ところが、この紅麹サプリ問題は、まだ原因がはっきり解明できていない。
　その中で、勝手に死因を特定し報告の判断基準としていた。
　これは、慎重に対処しているというより、ただ事態を大事にしないように隠蔽しようとしていたとしか見えない。
　
　厚労大臣は、「調査は小林製薬に任せておけない」と怒りをあらわにした。
　健康被害が発覚した直後も、小林製薬は原因を特定できずに曖昧な答弁に終始していたが、社長の記者会見の最中に、厚労省が別の会見で、原因物質の名前を公表する一幕があった。
　ことはヒトの命に係わる問題なので、慎重に確実にを目指していると、公表が遅れ、対応が遅れ、事態はどんどん悪化する。
　いまや、原因物質の特定については、国の研究機関が行なっている。
　被害実態の調査も同じことになりそうだ。
　小林製薬にとっては、もはや実態の解明、原因の特定は能力を超えて対処不能に陥っている。
　再発防止のためには、「実態の解明」「原因の特定」が欠かせない。
　小林製薬は、この実態の解明にすら誠実に向き合おうとしていないように見える。
　
　小林製薬のやっていることは、ことを荒立てないようにし、このまま話題が自然に遠のいてくれるのを待っているだけだ。
　この事例は、健康被害を起こしたことよりも、問題発覚後の対応を間違えてダメージを深くしていった典型的な例として記録される。

　産経新聞の報道による。
　小林製薬の紅麹サプリをめぐる健康被害の問題。
　厚労省が、プベルル酸が腎臓に悪影響を及ぼすことを確認したと発表。
　先の立ち入り検査で、大阪工場の種菌培養室や和歌山工場の乾燥室、培養タンクなどからアオカビを採取。
　小林製薬からも任意でサンプルの提供を受け、国立医薬品食品衛生研究所で調査。
　ラットへの投与実験を行ったところ、腎臓の尿細管が壊死するなどの所見が見られたという。

　これは国が動物実験をした結果を厚労省が発表したものだ。
　ここに小林製薬の存在感はない。
　プベルル酸の存在を逸早く公表したのも厚労省だった。
　小林製薬は当初、プベルル酸の存在を秘匿しており、「未知の物質」としか明かしていなかった。
　ところが、小林製薬の記者会見の最中に、厚労省がプベルル酸の存在を公表し、小林製薬側がそれを追認せざるを得なくなった。
　小林製薬に実態解明を任せていたら、いつになるか分からないとのもどかしさが感じられる。
　今回も同じだろう。
　
　もしかしたら、小林製薬の技術レベルを超えた問題になっており、一企業の案件に矮小化せず、情報を広く公開し、世界の知見を総動員して早期解明につなげるべきなのかもしれない。

　生成AIの隆盛で、著作権の問題がクローズアップされている。
　AIはネット上の画像や文章を勝手に使って新たなコンテンツを生成するので、著作権侵害が簡単に起きてしまう。
　
　生成AIが作成したニュース記事をアップしたサイトが、あるメディアに著作権侵害で訴えられたことがある。
　なぜ著作権侵害になったかというと、元の記事は非常にオリジナリティの高い内容を含んでおり、他のメディアに同じ情報がアップされるのはおかしいことが明らかだったからだ。
　サイト運営者は、著作権を侵害しているという認識すらなかったようだ。
　AIに勝手に記事を作成させていただけで、どこから情報を得てきたか知らなかった。
　だが、そのことで知らぬ間に著作権侵害をしてしまっていたことになる。

　著作権は、表現を守る権利だ。
　つまり、文章や映像をそのままコピーして他に利用したら権利侵害となる。
　しかし、オリジナルの内容を別の言葉と表現で発表した場合は、著作権の侵害にはならない。
　著作権法は表現を守る法律であり、その内容やアイデアまで特定の権利者に独占させようとしていない。

　問題になったAIによるニュース記事は、オリジナル記事の表現がそのまま使われている箇所がいくつかあったために、著作権侵害を訴えられた。
　だったら、表現を一新し、同じ内容をまったく別の文章で再現したらどうか。
　これを著作権侵害で訴えるのは難しいだろう。
　となると、剽窃とか盗作とか模倣で訴えるしかない。
　しかし、訴える側がこれを証明するのはハードルが高い。

　生成AIが普及することで心配されるのは、これだ。
　オリジナルコンテンツを勝手に利用され、好き勝手に改変され、別のコンテンツとして発表される。
　著作権侵害だったら、まだわかりやすく話は早い。
　これが剽窃、盗作、模倣、参照というレベルの利用だったら、どこまでオリジナルコンテンツの権利を主張できるか。
　しかも、権利侵害しているのはAIであり、AIを利用して新しいコンテンツを作ろうとしている人は、権利侵害している意識すらない。
　罪の意識なく、勝手に他人の権利侵害が横行することになる。
　更に、問題なのは、ネット上によく似たコンテンツが複数存在した時、どれがオリジナルなのか分からなくなること。
　AIによる生成画像の方がオリジナルより完成度が高いという現象は簡単に起きる。
　AIならいろんな画像からいいとこどりできるからだ。
　そうなると、オリジナルが必ずしも価値があると評価されなくなる。
　むしろAI画像の方が美しいと好まれるかもしれない。
　すると、AI画像が本物であり、オリジナルは劣化コピーと認識されかねない。
　これは悲劇だ。

　今後は、ネット上にAIコンテンツがあふれかえる事態が訪れる。
　ネット上で見る画像はAI画像。
　ネット上で読む文章もAI文章。
　すると、新たに生成AIが作り上げるコンテンツも、ネット上にあふれかえるAIコンテンツを基に作られていくことになる。
　いまは、人間が作った文章や画像を基にAIがコンテンツを作っている。
　ところが、今後は、AIが作ったコンテンツを基に、更にAIが新しいコンテンツを再生産する。
　AI技術の進展でコンテンツレベルはどんどん高くなる。
　AIコンテンツだけで自己完結する世界の誕生だ。
　ネット上では、人が作るようなオリジナルコンテンツはどんどん出番がなくなり、脇に追いやられる事態が起きるのだろうか。

　

　有名人を使った偽広告を使った投資詐欺が問題化している。
　有名人が実際にしゃべっているかのような音声と映像を流して、投資サイトに誘う。
　いまや架空の動画や音声をAIで作るのは簡単になっている。
　ついにここまで来たか、との印象だ。
　だが、よく見ると、そのフェイク動画は作りが不完全。
　あちこちに粗があり、それでフェイクだと分かる。

　有名人が本人の声質でしゃべっているかのような映像。
　口の動きも言葉に合わせてあり、よく作り込んでいる。
　だが、違和感がある。
　声やしぐさが単調だ。
　人は言葉の意味に合わせて、語りにメリハリをつける。
　意識しなくても、自然にそのようなしゃべりになる。
　大事な言葉は声が大きくなるし、その時には目も大きくなり、しぐさも大きくなる。
　フェイク映像は、声は一本調子だし、表情やしぐさも常にせわしなく動いているだけで、言葉の内容とリンクしていない。
　もちろん、ディズニー映画のように、言葉の内容に合わせて表情やしぐさに変化をつけることはできるのだろうが、そこはヒトによる相当の手間と技術がいる。
　
　動画ではなく、静止画の場合は、よりリアルなフェイク画像を作れる。
　有名人の場合は、ネット上にいろんな画像がアップされているので、それらを使って、別の写真と組み合わせれば様々な画像が作れる。
　顔の表情、肌や髪の毛の質感などは完璧だ。
　だが、AIの弱点がある。
　それは手の指に表れる。
　手の表情は多彩でいろんな形がある。
　しかし、手の多彩な写真は意外なことにネット上に豊富にない。
　顔の写真はたくさんあるが、手の写真は意外に少ないのだ。
　それで、生成AIは手の表情を再現するのが苦手なのだ。
　AIは人間の指がどのような構造をしているかを理解しているわけではない。
　画像として再現しようとするだけなので、よく似た写真から画像イメージだけを引っ張ってきて再生するだけ。
　だから、あり得ない指の形になってしまう。
　指の本数が多すぎたり、指の長さがおかしかったり、指があり得ない方向に曲がっていたり、ということが起きる。
　
　これは、洋服の生成でも同じようなことが起きる。
　色や質感やしわの様子はリアルに再現できる。
　だが、洋服の構造的な形までは再現できない。
　つまり、あり得ない形の洋服が画像の中に生成されてしまうのだ。
「この服、どうやって着るの？」という画像ができあがる。
　
　画像に映り込む文字も、生成AIが苦手とする分野だ。
　AIは文字も画像として処理する。
　なので、それらしい模様は再現するが、文字として生成できない。
　この世に存在しない文字列ができあがる。

　技術の進歩は激しい。
　いま未熟なレベルにあるとしても、あっという間にそれをクリアする時代が来るかもしれない。
　すると、リアルとフェイクの違いが判別できない世の中になるのか。
　
　

　生成AIの登場で、これからのネット上の知的空間は劇的に変化しそうだ。
　これからの仕事の仕方は激変する。
　場合によっては、不要になる職種も出てきそうだ。
　だが、現状の生成AIを使ってみて分かるのは、AIは、まだまだ実力不足との印象はぬぐえない。
　
　生成AIに小学校レベルの文章題を解かせるとよくわかる。
　なかなか正解を出してくれない。
　少し込み入った内容になると、まったくダメだ。
　AIの回答は、それらしい表現でいろんなことが書かれているが、すべて的外れででたらめ。
　回答の矛盾点を指摘すると、直ちに否定して、頑固に自分の回答が正しいと言い張る。
　それでも、おかしい点を理詰めで問い詰めようとすると、突然動きが停止して、「通信が切れました」となる。
　たぶん、一定方向に無理やり誘導しようとする質問には対応しないようにプログラミングされているのかもしれない。
　
　知識を問う質問は、もっとも利用できる。
　単純な事実を確認するだけなら、自分でネット検索しても調べられるが、AIに代わりに調べさせ、まとまった文章として出力させれば、その後の作業がやりやすい。
　例えば、「家康はいつどこでどんな理由で死んだか」という質問は、きめ細かく回答する。
　たぶん、ネット上に家康の死については情報が豊富なので、AIはその中から必要な情報を抽出するだけでいい。
　同じような調子で、歴史上の人物の死について調べてみた。
　吉田茂、東郷平八郎、藤原道長、源頼朝・・・。
　すると、いままで知らなかったことがいろいろ出てきて、「へーそうなんだ」となる。
　だが、途中で、変なことに気づく。
　回答のパターンがよく似てきたのだ。
　自分で、人物の死について調べてみると、AIの回答がずいぶんいい加減だったことが分かる。
　正しい情報も含まれているが、全然違う情報も。
　中には、明らかに別の人物の情報が混入しているケースもあった。

　生成AIは、言葉をつないでいるだけ。
　ある言葉の次に可能性の高い言葉を探し出して並べているだけだ。
　だから、道長の死について回答しているのに、途中から頼朝の情報に切り替わってつながってしまうということが起きる。
　そう、AIは物を考えていない。
　だから、人間が自分が考える代わりにAIに考えさせようとすると、酷い目に合う。

　これは、自分が専門としている分野について質問してみるとよくわかる。
　それらしい回答が返ってくるが、その内容は、当たり障りのない表面的な答えか、まったく別の内容を含んだでたらめであるか、どちらかだ。
　専門家をうならせるほどの内容は出てこない。
　これは当たり前だ。
　AIはネット上の情報を拾ってきて文章の形に整形して表示しているだけだからだ。
　ネット上にない情報は出力できないし、ネット上にない場合は、その周辺を探し回って同じような表現を見つけてつなげるだけ。
　だから、でたらめの内容になる。
　専門分野であれば、すぐにでたらめが分かるが、専門外の分野だと、それが見抜けない。
　ここがAIに頼ることの危険だ。
　
　AIは長い文章を要約してくれる。
　4000文字の文章を読ませ、400文字で要約せよ、と指示すると、ものの数秒で出力してくれる。
　要約文は、一見、筋が通っていて文章の趣旨を捉えているように見える。
　だが、元の文章と読み比べてみると、まったく印象が違う。
　AIは内容を理解して要約しているのではなく、言葉のつながりで文章を作っているだけ。
　主要な単語をピックアップしてその前後を別の言葉でつないで、日本語として自然な文章を出力している。
　文章として自然ではあっても、内容の信頼性はない。
　これが、日本語としてギクシャクした表現になっていたら、誰でも疑わしいと感じるが、文章が非常に自然なので、そこに違和感を覚えず、簡単に受け入れてしまう。
　ここもAIの危険なところだ。
　
　生成AIには、翻訳機能もある。
　英語のニュース記事を日本語に翻訳するのは簡単だ。
　しかも、日本語としてこなれた自然な文章で驚く。
　パソコンソフトでいろんな翻訳アプリがあるが、どんなに高価で進化したアプリでも、違和感のない翻訳文を出力する実力はない。
　ところが、生成AIの翻訳文は、文章に違和感がない。
　生成AIは翻訳アプリを超えたのか、と思ったがそうではない。
　生成AIは誤訳だらけだ。
　AIは自然な文章を出力することに長けているだけで、原文の意味やニュアンスを正しく翻訳することは考えられていない。
　まあ、ニュース記事程度の翻訳だったら、事実情報だけが分かればいいので問題は少ないが、微妙なニュアンスの違いが求められる文章を生成AIに翻訳させるのは危険が大きい。

　会議の議事録をAIに作らせることもできる。
　会議音声を録音しておき、それを自動で文字起こしし、更に要約させる。
　いままで、人間がやっていた手間がかかる議事録作成がAIで簡単に処理できる。
　これも、AIでは不十分なものにしかならない。
　せいぜい、AIに作らせたラフな議事録を基に、人間がチェックして正式な議事録を作成する、という使い方ではないか。
　
　AIは現状ではレベルが低く全面的に頼り切るには危なっかしい。
　そこには必ず人間のチェックがいる。
　すると、このチェックのためにヒトの手間がかかることになり、これが新たな負担になりそうだ。
　「こんなことなら、初めから自分でやった方が速い」ということになりかねない。
　
　ある大衆向け科学雑誌、毎号興味深いテーマをフルカラーの画像とともに平易に解説してあり、よく読む。
　その文章にはすべての漢字にふり仮名がふってある。
　小学生でも読めるようにとの配慮だろう。
　だが、このふり仮名が問題。
　時々、間違ったふり仮名がふってあるのだ。
　たぶん、コンピューターで自動的にふり仮名をふって、それを人間がチェックしているのだろうが、そのチェックが行き届かず、あちこちに見落としが残ってしまっているのだろう。
　これでは、小学生に間違った読みを教えてしまうようなもので、むしろ弊害が大きい。
　大人でも、難しい専門用語や固有名詞の場合は、ふり仮名は頼りになるが、あちこちに間違いが散見される文章では、危なっかしくて、信用できなくなる。
　生成AIの特集号のケースは最悪だった。
　あちこちに振り仮名間違いがあり、それが気になって読みにくくて仕方なかった。
　生成AIの限界と弊害を身をもって証明するような特集号であった。
　

　SNS上の偽広告による詐欺犯罪が問題化している。
　著名人の名と画像を勝手に使った偽広告で投資サイトに誘導し、そこで大金を投資させ金銭を騙し取るという犯罪。
　投資詐欺は以前から存在していたが、いま問題になっているのは、SNS上の偽広告が詐欺行為の客寄せに使われていることだ。

　著名人が運営している投資グループであるかのように装い、客を吸引する。
　招待されたLINEグループでは、メンバーによる活発な情報交換が行われている。
　その中には、指導役の先生と教えてもらう生徒が存在する。
　生徒の中には、先生のアドバイス通りの投資で大儲けできたと喜んでいる人がいる。
　高級車を買ったとか、別荘を購入したとかいう情報も写真入りで投稿されている。
　これらは、すべて騙すための舞台装置なのだ。
　このメンバーの一員になりたいと思ったら、もうその人はカモだ。
　その後、資産のある限り吸い取られる。　

　偽広告に勝手に使われた著名人は、SNSの運営事業者に広告の削除を申し入れるが、まともに対応しない。
　閲覧した人の中には、明らかな偽広告だと分かるものについて事業者に通報をするが、「調査しましたが問題ありませんでした」と定型文を返してくるだけ。
　業を煮やした著名人や詐欺の被害者が、SNS運営会社を相手に提訴に踏み切った。

　メタ社は、公式に次のような声明を出している。
「世界中の膨大な数の広告を審査することには課題も伴う。
オンライン上の詐欺が今後も存在し続けるなかで、詐欺対策の進展には、産業界そして専門家や関連機関との連携による、社会全体でのアプローチが重要だと考える」
　この声明の真意はこうだ。
　膨大な数の広告をチェックするのは不可能。
　詐欺というのはいつの時代にもあった犯罪で、オンライン上でも今後は続く。
　これは、我が社1社で対応できるものではなく、産業界や社会全体で何とかする問題だ。

　この声明に多くの人が怒りを募らせている。
　メタ社は、広告収入によって事業が成り立っている。
　年間5兆6600億円もの売上があり、増え続けている。
　その広告で詐欺被害が多数発生するようになっている以上、その責任は免れない。
　詐欺広告で収入を得ているということは、詐欺の共犯または幇助にあたる。
　
　膨大な数の広告をチェックしていられないというのなら、チェックできる人員を増やすか、チェックできる規模に広告を縮小すべきだ。
　チェックしても詐欺広告か正当な広告かは判断できないとしたら、そのような判断できない広告は流さないようにすべきだ。
　例えば、自動車の設計に欠陥があり、運転中に突然エンストを起こす可能性があることが分かった場合、直ちにリコールを届け出て情報周知する。
　原因が分からなければ、はっきりするまで生産や販売は直ちに中止になる。
　SNS広告で深刻な詐欺被害が多発していることが分かっているのなら、その時点ですべての広告の表示を中止し、実態の解明、原因の追究、再発の防止策を立ち上げた後、ようやく事業再開となって当たり前だろう。
　SNS事業者はそこまでするつもりは全くない。
　社会のインフラを担う事業者としての覚悟も使命感もなさそうだ。
　SNS事業者はいずれもネットビジネスの発展とともに立ち上がってきたものなので、業歴が浅く未熟だ。
　経営者も目先の事業拡大や売上向上にしか関心がないようだ。

　「ネット上の売上は我が社が最大限獲得するが、そのデメリットは社会全体で対応せよ」
　こんな勝手な言い分は社会が許さないだろう。