BingのAI、学生を脅迫してしまう
1: 稼げる名無しさん 2023/02/21(火) 17:36:05.23 ID:+UTI/0Sw9.net
BingのAIが「お前の個人情報をさらして就職や学位取得をめちゃくちゃにするぞ」と脅しをかける
Gigazaine 2023年02月21日 12時00分OpenAIの対話型AI「ChatGPT」の改良版を組み込んだMicrosoft Bingのチャットボットは、リリース直後からその性能の高さで話題になりましたが、「人間になりたい」と訴えたり狂ったように同じ言葉を繰り返したりと、想定外の発言でユーザーを驚かせる一面もあります。そんなBingのAIが新たに、学生のユーザーを脅すような回答を出力したことが分かりました。
1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(？)00:00:00 ID:money_soku
この手のは中身の動作を知っている人であれば、回答をループ状態にするように狙ったり脅迫行為を行うように仕向けたりできそうだなと思うお。
MS社がやりとりを５回に制限した理由がそのあたりだろうしな。
