AIによる人類コントロールを阻止？　「記憶消去」装置が開発

　イギリスの『デイリー・メール』の12月5日の報道によると、研究者が人口知能（AI）による人類介入を阻止し、AIが人類を逆コントロールするのを防ぐため、「記憶消去」のような新システムを開発した。AIロボットは自分の行動から学習し、能力を高めることができるが、専門家は、このような特性はAIの学習を止められなくする可能性があるとみている。AI研究者がこのほど、新システムを開発した。これは映画『メン・イン・ブラック』の記憶を消去する「ニューラライザー」のようなもので、AIの記憶の一部を消すことで、学習方法を乱さずに中断することができる。

　スイス連邦工科大学ローザンヌ校分散型プログラミング実験室のRachid Guerraoui教授は、「AIは人類介入を避ける方法を探り、人類が阻止できない状況を作り出す」と話す。研究者によると、新システムを開発し、AIが人類の指示を避けるのを阻止する必要がある。

　Guerraoui教授は、「私たちが直面する試練はロボットの学習阻止ではなく、そのプログラミングである。中断してもロボットの学習プログラムを変えず、向上行為も誘発させないため、AIの学習阻止を避けることができる」と話した。

「中国網日本語版（チャイナネット）」　2017年12月6日