「差別発言した人工知能の学習モデルは？」

　　　　　　　　　　　　　　　　（2016.3のブログの詳細　2016.3.28）

3/23に公開された人工知能を使ったマイクロソフトのチャットボットＴａｙ（テイ）が

ツイッターで人種差別や性差別的な発言をするようになり、翌日には実験は中止された．

【参考サイト】

・ http://www.cnn.co.jp/tech/35080140.html　

「人工知能が差別発言、マイクロソフトが黙らせる」

・ http://www.nikkei.com/article/DGXLASGM25H5K_V20C16A3000000

「米マイクロソフトの人工知能、ツイッターで差別発言連発」

【要点】

・チャットを通じて新しい言葉を覚え、会話能力を身に着ける仕組みだった

・大量の差別的発言を学習した結果、同様の発言を返すようになった

　「ヒトラーは正しかった」

　「男女同権論者は全員死んで地獄で燃やされるべきだ」

・マイクロソフトは不適切なツイートを削除し、ソフトウエアを修正中．

【疑問】

★採用した学習モデルが単純すぎたのではないだろうか？

【コメントと関連する学会発表】

・中所、齋藤 : 思考過程のシミュレ-ション、

　電子通信学会オ-トマトン研究会資料、A70-76(Dec.1970) 　

http://www.1968start.com/M/bio/olduniv/gakkai7012.html　

・中所、齋藤 : 簡単な思考モデルによる討論学習効果について、

　電子通信学会全国大会、231(1970). 　

http://www.1968start.com/M/bio/olduniv/gakkai1970.html　

以下，46年前の，ニューラルネットワークを用いた討論学習を紹介する．

［幼年期／少年期Ｉ／少年期II／青年期／それ以降］の５種類の学習モデルを設定して，

討論学習による思考の発達段階をシミュレーションした．

★今回の差別発言学習のケースは少年期Ｉの討論学習に相当する．

今回の実験は，

「ツイッターなどを通じて誰とでもチャットできるプログラム」だったので，

少年期IIと類似の討論学習を想定していたと思われるが，

意図的に特定の人間が集中的に対話したので，結果として，

少年期Ｉのような結果になったと思われる．

【５種類の学習モデル】

▼幼年期：具体的概念を個々に形成しつつ、相互の関係を学習していくが、

それはニューロン学習に近いL1型で、[親]との対話
▼少年期I：学校で教えることを無批判に学ぶL3型で、[先生]の講義
▼少年期II：放課後などに、興味あることを周囲の人たちに

積極的に話しかけて学ぶ。L2型で、[大人]との対話
▼青年期：自己主張意欲が強い。L1, 3型で、[友人]との論争
▼青年期以後：独り内省により考えを整理する。L1型でランダム入力

討論学習効果は、次の３種類を設定。
　L1型：時刻tにok、t+1にojが1ならば、mjk →　mjk+δ1。
　　　　　　　　→概念ｋの出力の直後に概念ｊが出力されたとき，

　　　　　概念ｋから概念ｊへの連想度を強化する．

L2型：時刻tにok、t+1にijが1ならば、mjk → mjk+δ2。
→概念ｋの出力の直後に概念ｊが入力されたとき，

　　　　　概念ｋから概念ｊへの連想度を強化する．

　L3型：時刻tにik、t+1にijが1ならば、mjk → mjk+δ3。

→概念ｋの入力の直後に概念ｊが入力されたとき，

　　　　　概念ｋから概念ｊへの連想度を強化する．

★研究会発表の図６「思考の発達段階」
・学習度は
　「知識の蓄積」を示し、学習度が飽和すると
　ワンパターンの思考になる
・学習エントロピーは
　「知識の処理機能」（思考の柔軟性）を示し、
　少年期後期がピーク！

【修士論文：関連する章の目次】

「思考過程の数学的表現と模擬実験」（1971年3月22日提出）

http://www.1968start.com/M/bio/olduniv/shuuron.htm　

第三章思考過程の計算機シミュレーション

　３．１討論学習のシミュレーション

１．学習と評価

２．使用プログラムの概略

３．L１型学習の性質

４．L２型学習の性質

　５．L３型学習の性質

６．討論学習Ⅰ…自己主張意欲大なる場合

７．討論学習Ⅱ…学習意欲大なる場合

　３．２思考の発達段階のシミュレーション

１．成長に伴う対話の意味の変遷

２．シミュレーションの方法

　３．結果と考察

以上