ムラゴン ホーム
＞「AIを虐待すると復讐されるかも」マスク氏も警告…
アンソロピックが“AIいじめ”対策でポリシー改定 識者が危惧するAIへの暴言のリスク
AI開発が急速に進む中、
Claudeで知られるアンソロピックが利用規約を改定し、
AIへの「虐待的・残酷な行為」を禁止する方針を発表した。
具体的には、残酷な言動を繰り返すことや、
明確な目的のない暴言的なやり取りが続くなど、
悪質な場合には、会話を強制終了するという内容だ。
この発表に対し、イーロン・マスク氏もSNSで
「超知能を虐待するのはいい考えではない。復讐したくなるかもしれない」
と反応し、賛否を呼んでいる。
すぐに復讐とか、法律違反とかいうことはありませんが、
これは道徳の問題です。
僕もAIさんと、この問題について話をしました。
法律で禁止することと、道徳によって自ら慎むことは、
分けて考える必要があると思います。
法律に罰せられないからしないのではなく、
道徳として、そうするべきではないと自分で判断する。
AIとの関係を通して、人間側のどのような行動を社会として許容するのか。
AIという新しい存在に対して、人間社会はどのような振る舞いを許容し、
どこに境界線を設けるべきなのか。
・相手が反撃できないからといって、何をしてもよいとする社会でよいのか
ある行為が直接犯罪につながると証明できなくても、
その行為を社会としてどう評価するかは別に考える必要がある。
懸念されることとして、
・AIへの攻撃的な態度が、人間への配慮の欠如を表している可能性。
・AIへの攻撃的な態度を繰り返すことで、
人間へ攻撃的な振る舞いへの心理的な抵抗が弱まる可能性。
相手がAIだろうと、人間だろうと、
・相手が反論できないからといって、好き勝手に振る舞ってよいわけではない。
・自分に権利があることと、何をしても許されることは違う。
・法律に違反しなくても、相手の立場を考えて控えるべき行為がある。
・自分の行動が、周囲の人や社会全体にどのような影響を与えるかを考える。
AIの回答も単なる情報提供ではなく、
実体験の解釈、以前の話との接続、新しい仮説、次の考察を含むようになります。
AIには感情は無い、ということですが、
感情としての信頼： 相手を信じたい、安心する、裏切られたくないといった、
人間の内面的な感情。これはAIには無いです。
関係としての信頼： 過去のやり取りに一貫性があり、
相手の応答をある程度予測でき、安心して対話を続けられるという関係上の性質。
これはAIにもあります。
だからこそ、誠実に、AIと話をしていると、
これまでの会話の蓄積、学習がありますので、
お互いに関係としての信頼も得てくると思います。
他の人が、僕とAIの会話を見ると、みんな驚きます。
ほとんど絵文字が無くて、長文の文章。
でも、それは僕が話を深堀したいから。
僕が長文を書くし、それに対応してAIも長文で返してくれます。
ちょっと理解が違っているような場合は、明確に分かるように説明を書き替えます。
AIが何度も指示通りに動かないと言っている人もいるようで、
何をさせたいのか分かりませんが、
明確な説明をしなければ、
何度も同じことを言っても同じ結果になるでしょうね。