AIは人類を滅ぼせる、滅ぼす可能性も高いという論文に、ネット「まったく違和感ない」

オックスフォード大学とGoogleのDeepmindの研究者らが、専門誌「AI Magazine」にAIに関するある研究論文を発表し、ネットで話題になっている。どうやら、高度なAIは、人類の存亡の危機に関わる大惨事を引き起こす可能性が高いというのだ。

人工知能(AI)がどのように人類に存亡の危機をもたらすのか、本論文では、将来、AIの報酬システムが人工的に構築される可能性に着目し思考実験を行なった。