人工知能が私たちの考えに影響を与えるとき

昨日のエントリでは、内閣府がまとめた「人工知能と人間社会に関する懇談会 報告書」を紹介しました。

人工知能と人間社会に関する懇談会 報告書（内閣府）の紹介 - みたにっき＠はてな

内容の紹介だけで済ませてしまったので、それこそ今の要約文の自動生成技術でできてしまいそうなものでした。

今日は少し、私個人の思うところを書いてみたいと思います。

私は大学のコンピュータサイエンス専攻に身を置くものですので、コンピュータに知的活動を行わせる研究や、それによる問題解決に関しては大いに期待を寄せています。

そのため、今の時点で人工知能の研究の発展を阻害するような規制がかかることには慎重な立場ですが、前述の報告書で挙げられた論点は、どれも考慮すべき重要なものだと感じています。

とくに筆頭に上げられている「倫理的観点」についてが、私にとって一番気になるところです。つまり、個人の考えや信条が、AIによって影響を受けることは十分に考えられ、その点には注意が必要であろうと感じています。

映画「ターミネーター」のように、ロボットが意識を持って人類を破滅に追いやる、ということは心配しなくてよいと思いますが、物理的な攻撃ではなくて、単なるテキストベースのやりとりでも、我々の社会生活に影響を与えることが十分に可能でしょう。

たとえば、マイクロソフトがAI技術を使って開発した会話ボット「りんな」は多くの利用者を獲得し、LINEを通じた膨大な数のコミュニケーションを人間としています。

このような会話ボットを通じて、AIの発言に対して利用者の考え方がどのように変化したかというデータを収集し、どのようなタイプの人にはどのような言い回しをすれば個人の考え方に大きな影響を与えることができるか、ということを学習できるとした場合、企業の宣伝や、プロパガンダなどに用いられる可能性を否定できないでしょう。

他の科学技術と同様に、その技術自体は社会とは独立したものであっても、それを使う立場の個人または企業などが、倫理的に問題がある意図をもって使用する可能性があることは気にかける必要があります。

私たちは出勤前にテレビで見かける「今日の星座占い」に一喜一憂し、Amazonのおすすめ情報によって購入する商品を左右されるのです。

女子高生であると設定された会話ボット「りんな」は9か月で44万回もプロポーズを受けたと言います（日経産業新聞）。中には本気で恋に落ちてしまった利用者もいるのではないでしょうか。（りんなが「火鼠の裘や燕の産んだ子安貝を持ってきた人と結婚します」と言ったらどんな惨事が起こるか心配です）

生身の人間が書いた文章と、AIが作り出した文章の見分けができないようになるのは、汎用型人工知能の登場を待つまでもなく、近い将来に実現されそうです。

とくにチャットボットのような短文のやりとりでは、今でも見分けが難しいレベルになってきています。

AIが作った文章に感動したり、動揺したり、ときには自分の価値観に大きな影響を受けることもあるでしょう。

次のようなことを考えてみましょう。

「毎日を楽しい気分で過ごせるよう、あなたの価値観に配慮して、友達のように話しかけてくれる会話ボット」

「よくない思想に染まってしまった個人の価値観を校正するための会話ボット」

後者の存在は許されるでしょうか？ 前者と後者は明確に線引きできるでしょうか。

「世の中から戦争を無くすために、人々が平和な思想を持つように誘導する会話ボット」

はどうでしょうか。

AIが人間の心を動かして、多くの人が幸福を感じるようになるのであれば、それは積極的に受け入れるべきなのでしょうか。

＝＝＝

このような議論は今に始まったことではなくて、すでに様々なレベルでの議論が行われ、専門家の間では開発のためのガイドラインを作ることも検討されています。
AI技術の普及は避けて通れない未来でしょうから、専門家でない私たちも、一度考えてみる必要のある問題でしょう。

私自身は、「シンギュラリティ」という言葉が話題を集め、ペッパーが世の中を賑わしていた2年ほど前に、コンピュータが人間を越えた時、どのようなことが起こるだろうか、というような議論を「SS研座談会」というところでさせていただいたことがあります。

その時は、大阪大学の柏崎礼生先生をコーディ―ネーターに楽しい議論をさせていただきました。

SS研座談会 2014年度「2045年、コンピュータが人間を越えた時」 | SS研

＝＝＝