イーロン・マスク「AIが意志を持つこと」ではない

「注目ニュース」
「AI最大のリスクは「AIが意志を持つこと」ではない…イーロン・マスクが警戒する“人間の悪意”とは？」
『イーロン・マスクは、AIの進化によって本当に警戒すべきは、人間の知性を超えて世界を支配するSF的な未来ではないと語っている。むしろ問題は別のところにあるという。AI時代に広がる「最高」や「最大化」といった価値観は何をもたらすのか。応用数学者であるココ・クルムが、その危うさを理論と実例から解き明かす。
※本稿は、ココ・クルム著、松本剛史訳『最適化幻想 効率が人を幸せにしない理由』（新潮社）の一部を抜粋・編集したものです。』

引用：https://diamond.jp/articles/-/393759

「AIが意志を持つこと」より、人間の偏見や極端な効率主義がプログラムされ、忠実に最適化されて増幅することこそが本当の恐怖であるという指摘には深く納得させられます。AIの導く「最高」が過去の模倣に過ぎず、人間の創造性を奪う危うさも含め、私たちは作り手としての倫理を問われているのだと感じます。