人工知能が社会に影響を与えることについて

今日はAI研究の最先端で活躍する方々による、ディスカッションを聴く機会がありました。

技術的な話というよりは、AI技術が社会に与えるインパクトについて自由に話をするもので、人間の考えや行動にAIが影響を与えることが十分に可能となったときの懸念が主なテーマとなりました。

もはやAIに関する記事が新聞の紙面に出てこない日は無いくらいに、人工知能に対する期待と不安が社会的な関心事になっていて、私自身も、最近特に、仕事の場においても人工知能について考えさせられる機会が増えてきました。

以前のブログ

に書いたばかりですが、私は自分の考えや行動が、気づかないうちにAIによって影響を受けてしまうことを、良いことととらえるべきかどうか、難しいと感じています。

今回の議論では、人間には認知バイアスというものがあり、ものごとを誤って認識することが多々あるので、AIによって、それを補うことができるという発言があった一方で、AIが、かえって、その認知バイアスを強化する方向に働くことの懸念も示されました。

英語版のWikipediaには、認知バイアスのリストがあって、そのページを見ると、驚くほどの種類に圧倒されます。

f:id:JunMitani:20170425223533j:plain

私たちの判断は、いかに危ういバランスのうえに立っているかを再認識されます。

今、多くのワープロソフトが、英単語の綴りミスを指摘してくれ、ときには自動修正をしてくれます。冠詞や時制の誤りを自動修正してくれるワープロソフトも、すぐに実現できそうです。もうあるかもしれません。

そのうち、イディオムの誤りや文法の誤りを直してくれ、不自然な表現を気の利いた言い回しに直してくれるようになるかもしれません。

文章の論理的な矛盾を指摘して直してくれたり、全体の構成まで手直ししてくれるようになったとき、それは自分の考えを表したものと言えるでしょうか。

将来的には、キーワードを含む2,3行の文章だけから、格式高い長文が自動的にできるかもしれません。こうなると、まさに星新一の『肩の上の秘書』の世界です。

文章を読む方は、自動要約ソフトで2,3行に要点を絞ってから読むことになるかもしれません。なんとも空しい話です。

すでに実現している、レコメンデーション機能の多くは

「あなたはこれが好きでしょうから、これはどうですか？」

と、利用者の好みをさらに強化する方向に働くものが多いですが、

「あなたは、こういうのばかり観ているから、もう少し、こっちの分野のものも観てみてはどうですか？」

というふうに、視野を広げる方向に機能するといいな、と思うのですが、これもまた、AIによる思想のコントロールにもつながるのではないか、という懸念は避けられそうにありません。

人工知能について、考え出すと、夢のある話と、それとは反対の話と両方が出てきて、悩まされます。

今日の議論の最後は、「仮に人工知能が我々の社会に大きな影響を与えるようになっても、人間が人間らしく生き生きと活躍できる社会が大事である」という、至極まっとうな話で幕を閉じました。

みたにっき＠はてな