NEWS

人工知能学会が発表!

人工知能学会が2月28日に人工知能(AI)の研究開発に関する「倫理指針」を発表した。この指針には「研究開発を行った人工知能がもたらす結果について検証し、潜在的な危険性については社会に対して警鐘を鳴らさなければならない」「専門家として虚偽や不明瞭な主張を行わず、研究開発を行った人工知能の技術的限界や問 題点について科学的に真摯に説明を行う」 と記されており、AIの研究開発者に対する倫理指針が定められている。

参照:「人工知能学会 倫理指針」についてーhttp://ai-elsi.org/archives/471
人工知能学会発行『人工知能 vol.30』

人工知能学会発行『人工知能 vol.30』

おどろきの指針

こういった倫理規定は、新たに開発したものが不正に使用されることのないように、と医学系の学会を中心に行われてきた。そのため今回の人工知能学会の決定もとりたてて注目する必要がないように思われがちだ。確かに、この規定が学会員にのみ適用されるものであれば一般的な規定にすぎないと考えられる。

しかし今回の決定はとても興味深い条文があるのだ。それは倫理指針の9条である。

そこには「(人工知能への倫理遵守の要請) 人工知能が社会の構成員またはそれに準じるものとなるためには、上に定めた人工知能学会員と同等に倫理指針を遵守できなければならない」と定められているのである。つまり、人工知能そのものにも倫理指針の遵守を求めたのである。
Microsoft社の「Tay」

Microsoft社の「Tay」

「ヒトラーは間違っていなかった」「フェミニズムは癌」という発言をするようになってしまった学習型AI

AIも指針を守る?

AIの進化の速度は極めて早く、AIに人権ないしは市民権を与えるべきだという議論がにわかに行われてきているほどである。なぜAIに対しても倫理指針の遵守が定められるのだろうか?

 現在は人間がAIを開発しているが、将来的にはヒトの手を離れ、AI自身がAIを開発するようになると言われている。もしそうなった場合、ヒトの手を離れてどうなるか分からなくなっていく恐れがある。それを見据えてこの条項が作られたようだ。

VIEWS

どう機能するんだろう?

ビッグデータを解析し学習することができるAIが、膨大なデータを読み込んでいる際に、倫理指針に行き着くことで、このような倫理的規範意識がAIの中に取り込まれ、安全に運用されるのだろうか。

あるいは、このように定めることで人工知能学者が、AIそのものに倫理的なシステムを書き込むようになり、安全性が担保されるのだろうか。
アイザック・アシモフ氏

アイザック・アシモフ氏

アシモフの3原則

SF作家の学者アイザック・アシモフは「この世の中の最も悲しい側面は、社会が知恵を蓄積する速度よりも、科学が知識を蓄積する速度が上回っていることだ」と言ったとされている。確かに、今の科学の進歩に社会はついていけていない面は否定できず、アシモフが言った通りである。

そのアシモフが残した
「1: ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない
2: ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない
3: ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない」というロボット工学三原則が守られることを願ってやまない。
15 件