19:50 2018年07月16日
ザッカーバーグ氏

人工知能は脅威か救世主か?フェイスブックのザッカーバーグ氏を動転させたものは何か?

© AP Photo / Eric Risberg
オピニオン
短縮 URL
タチヤナ フロニ
2132

ごく最近、フェイスブックの人工知能(AI)に関する興味深いニュースが世界中で報じられた。見出しは『フェイスブックのAIがコントロール不能に。独自言語を考案』といったものだった。

スプートニク日本

AIをめぐる新たな論争に油を注いだのは、フェイスブック創設者マーク・ザッカーバーグ氏とスペースXやテスラ社の創設者イーロン・マスク氏との論戦だ。シリコンバレーの2人の巨頭は次の点で意見を異にした。AIとは脅威なのか文明の恵みなのか?

マスク氏はAIが「人類文明が直面する最大の脅威」であり、「AIは(後手後手の)反応的ではなく、規制に積極的である必要がある珍しいケースだ。AI規制に反応する時には遅すぎる」との見方を示した。

一方ザッカーバーグ氏はAI脅威論に困惑し、AIはむしろ人類の生活を良くするようにのみ設計されていると述べた。

ザッカーバーグ氏はパロアルトにある実家からフェイスブックライブを通じて質問に答えている間に「これに関してはかなり強い意見を持っている。私は楽観的で、(AIに)非常に否定的で最後の審判の日のシナリオを盛大に掻き立てようとする人々を単に、理解できない。本当に否定的で、いくつかの点ではとても無責任だ」とコメントした。

だが間もなく、フェイスブックが自社のAIシステムを停止した。何かが思ったようにいかず、ザッカーバーグ氏に、少なくとも一時停止を取らせ、急ブレーキさせた。何が起きたのか?

AIを用いたチャットボット2体が独自言語をつくり出し、お互いに会話し始めたのだ。機械が自身で言語を作り出したことになる。この状況はより興味深いし、この実験を続けることもできただろうに!フェイスブックを動転させたものは何なのか?AIの予測不可能性か、考え方か、それとも?そのどちらでもあるようだ。

当編集部のインタビューに対して、ロシアのインターネットセキュア連盟のデニス・ダビドフ連盟長が見解を示した。

フェイスブックが危惧したことは、独自言語を作り出したチャットボットの明日の行動がわからず、評判が損なわれかねないことだ。ボットはまだ互いに話し始めただけだが、明日には偽情報を大量に流す可能性だってある。ユーザーの人間としての尊厳を冒す侮辱的な性格のものかもしれない。評判・金銭的な損失を避けるため、フェイスブックはただボットを停止する措置に出たのだ。いずれにせよ、何が起きて、当初の意図通りにいかなかったことを把握するため一時停止したのだ。

専門家らは、ボットがより自律的になり、IT専門家のコントロール外で機能できるようになると危惧している。非常に経験豊かなエンジニアでさえ、ボットの思考プロセスを完全には追えないためだ。

しかも、これはAI、特にチャットボットによる問題が起きた初めてのケースではない。

「以前あったマイクロソフトのチャットボットも、極右のナショナリストやナチス的傾向を持つボットに変貌し、ヘイトスピーチなど好ましくない言葉を話し始めた。もはや言葉の犯罪者だ。このように、誰かとネットで交流するよう設計されたチャットボットは、人を迷わせ、サイバーストーキングを試みる可能性すらある。そのためフェイスブックのケースは、AIが進化した慎重な実装を要するという新たな警鐘だ。まだ人間は、機械学習の結果生まれるシステムの制御手段を学ばない。」

もし人間が学習しないのならどうなるのか?この問題は、近づきつつある黙示録に近い見通しを描くよう複数のジャーナリストに促している。他方には、実際は全て大した事がないとするものもいる。フェイスブックは実際にチャットを停止したが、恐怖からではないというものだ。ボット実験の参加者の1人は、チャット同士でなく人間と交流するようボットを学習するという最終目標が達成されていないと説明した。

しかしAI学習の結果はまだ、何よりも主にネガティブで否定的な感情を示すのだろうか?それはなぜか?

「今日、インターネットが友好的な環境であるよう監視する人はほとんどいない。しかし、AIは多くの場合、ツイッターの『戦闘条件』で学習し、学習対象としての情報の多くが、ネットに匿名で投稿される排外的でレイシスト的な内容であるという事実に突き当たった。問題なのは、情報機械が大量の情報を基に学習することだ。もしその情報がポルノや麻薬、暴力、残酷さを含んでいたら、チャットボットは普通の人間の言葉がほとんど話されない環境で学習することになる。ネットが無菌環境であるべきと言う人はおらず、無菌環境は単に不可能だ。しかし排外主義のような実生活で禁止されている情報は、ネットに存在するべきではない。そうなれば、特別な問題は起きなくなる。」

極限状況でさえAIが実際に人間の助けになれる可能性もある。そのためフェイスブックは。人々と問題を話し合って歩み寄れるボットを作ろうと学習している。しかしAIはまだまだ詳細な研究を必要とする。

「例えばフェイスブックは、自殺しそうな人を発見する特別なシステムを作った。時宜にかなった必要な機能だ。このAIはユーザーの気分を分析可能で、投稿やコメント、「いいね!」や「よくないね!」から英語話者ユーザーが常に自殺のことを考えているのかどうかを特定するのだ。判定後、ユーザーのもとにフェイスブックのヘルプグループから職員が向かい、精神的に支えるためにメッセージ交換を開始する。しかし、これが人間ではなく、ネガティブに調教され、独自言語で否定的な感情を話すよう学習した機械だと想像してみよう。この場合、このような交流の結果は当初の意図と正反対になる可能性がある。」

一方ザッカーバーグ氏は、AIが大拡散することによって起こるプラス効果を、次の5~10年以内に人類は目にすると確信している。マスク氏は根本から同意せず、「私たちより上手に全てをこなす」AIが仕事に関する大量の問題を引き起こすと見る。

フェイスブックに立ち止まるつもりはなく、AIとは未来だとの見方を保っている。大事なのは、この成果が人の害にならないようにし、プライベートな空間にずかずかと入らせないことだ。

「フェイスブックはユーザー1人1人の情報をできるだけ多く知るためにAI分野を活発に伸ばしている。広告を用いて私たちの欲望が操作されることは珍しくない。例えばユーザーに特定の商品を買わせるためだが、それだけではない。SNSは時折、種々の情報技術を用いて自身が持つ世界のイメージを押し付けるため、大衆意識に深刻な影響を与える道具となる。そして人間の行動やくせ、個人的な好みは多くの場合、フェイスブックなどのSNSで求める情報に依存したものになる。人間は自分で批判的に考える能力を失う。」

欧州で懸念がないとは言えない。ロシアでもインターネットの悪影響やネットでの法律違反を避けるために何かを講じようとしている。それは何よりも、個人情報の不可侵だ。

「欧州委員会やEUはグーグルなどの会社に対して様々な調査を行い、個人情報問題に取り掛かろうとしている。ロシアもまた、21世紀において個々人のデジタルデータは不可侵であるべきだと一度ならず強調している。そしてデータ開示はユーザーの同意があって初めて可能だ。プーチン大統領が最近署名した情報社会発展戦略は、非常に大事な原則である機密性を含んでいる。これは完全な匿名性ではない。しかし国家は個人情報の完全な不可侵を保証している。」

今のところ皆は、AIの一時停止に関するフェイスブックの報告を待っているところだとダビドフ氏は指摘。同氏は、このデータがインターネットに公開されるはずだと見る。

グーグルも並行してAIシステムを開発している。チューリッヒにある研究所グーグル・リサーチ・ヨーロッパは人工知能や機械学習の主要な分野3つである機械学習、機械認識、自然言語理解(NLU)を研究している。

タグ
インターネット, 科学, テクノ, 人工知能, イーロン・マスク
コメント・ガイドディスカッション
Facebook経由でコメントスプートニク経由でコメント
  • コメント