【読んだ】アシロマの原則

ページ名:20181027_1

今日読んだサイト

タグ: 読んだ物 機械学習

アシロマの原則

文字列では『23 Asilomar AI Principles』で見かけることも多いかと思います。リンクは和訳版です。

Principleは信念とか原則って意味の単語だそうです。

余談ですが、最初に見たときは(プリンシパル?バレエの??)と勘違いして『23人のAI第一人者』かなと思ってました。きちんと調べたらプリンシパルはPrincip"al"でした。発音は全く同じだとか。(こういうものを同音異綴語というらしい。意味は字のとおり。)

 

閑話休題。

 

AIに関して、研究・倫理観・将来的な危険性という観点でまとめられた23の原則です。

法律ではないので強制力はありません。ただ、条項の中には今現在のAIが解決できないとされている大きな課題が解決されるべきとうたっている"ただちに影響はない"ようなものもあれば、すでに開発された技術の発展に警鐘を鳴らすようなものもあります。

前者はこのへんの話、

フレーム問題

シンボルグラウンディング問題

トロッコ問題

後者はこのへんの話のイメージかなと。

戦闘機AIが空中戦シミュレーターでベテランパイロットに圧勝。無人戦闘機が空を支配する未来は近い?

個人的には、前者は人間も解決していない問題だと思っています。解決していないというのはここでは、個としても集団としても「これが唯一の正解という決め手となる論理がない」というようなニュアンスです。

人間は多様性をよしとして繁栄してきたので、これからもこれらの問題、特に倫理的な問題に唯一の解を持つことはないだろうなと思います。全人類が統制されるようなことでもない限り。

解が決まらなければ機械に対する教師にはなれないだろうし、機械が出した解に納得することもないでしょう。

そもそも、多様性の中にある曖昧な共通認識のようなものを、単体として開発している機械に計算させようというのが無茶な話ではないかという気もしてきます。

 

文中に出てくるロバスト性というのは頑強性・堅牢性という意味の言葉だそう。こういうこと(MS tayの一件)にならないよう対策を講じておきなさい、ということなのでしょう。

 

今の機械学習はすでに、仕組みを考えてパラメータ調整をしているのは人間だけれど、それを元に機械が実行している計算や結果は、もはや人間には読み解けない次元になっています。アシロマの原則の真逆に向かって走っていますね。

今の技術の延長線とアシロマの原則の方向性が揃うには何が必要になるんでしょうね。機械の計算や結果を人間にも解る次元に落とし込ませる手法を開発するか、人間が数百〜数千次元の計算を理解できるように進化するか……

いずれにせよまだ少し遠い未来のことのように感じられます。

シェアボタン: このページをSNSに投稿するのに便利です。

コメント

返信元返信をやめる

※ 悪質なユーザーの書き込みは制限します。

最新を表示する

NG表示方式

NGID一覧