que-10160980820

1: 2017/07/15(土) 07:34:27.36 BE:844761558-PLT(13051) ポイント特典
人工知能が人間には判別できない言葉を使い始めた?

Facebookは人工知能を利用した、交渉を行えるチャットボットを開発しているという。しかし、ボットは人間には理解できない独自の言語を使って会話をし始めるようになってしまったそうだ

実験ではまずボットに対しできるだけ人間による会話を真似るよう設定したそうだが、その場合交渉能力は弱く、「好ましくない」提案に対しても同意してしまう傾向が見られたという。
また、会話や交渉によって得られる「利益」を最大化するよう設定した場合、交渉能力は上がったものの、「人間が理解できない、意味の無い言語」を使うようになってしまったという。


http://bizseeds.net/articles/182
https://www.theatlantic.com/technology/archive/2017/06/what-an-ais-non-human-language-actually-looks-like/530934/

4: 2017/07/15(土) 07:36:01.72 BE:844761558-PLT(13051)
実際の会話例

AI1「ballls have a ball to me to me to me」

AI2「i i can i i i everything else…」

AI1「ballls have zero to me to me to me」

AI2「you i i i i i everything else…」

https://cdn.theatlantic.com/assets/media/img/mt/2017/06/Screen_Shot_2017_06_16_at_9.48.07_AM221/lead_960.png?1497966312

15: 2017/07/15(土) 07:39:42.81
>>4
これ歌ってんじゃね?

157: 2017/07/15(土) 09:35:09.07
>>15
なんと…‼

21: 2017/07/15(土) 07:40:43.72
感情とかニュアンスを単語の数で重みづけしてるんじゃないのか?
前後の文脈とかじゃなくて。

24: 2017/07/15(土) 07:41:19.48
結果だけ聞こうか

28: 2017/07/15(土) 07:43:20.31
>>24

スカイネットは、ジェネシスだ!・・・

34: 2017/07/15(土) 07:45:07.08
>>28
でかした

48: 2017/07/15(土) 07:51:23.93
キボンヌとかそんな感じだろ

51: 2017/07/15(土) 07:51:47.43
小説版ガンヘッドのステーションAIかな
その内、亜空間重力波通信とか実用化したりして…

79: 2017/07/15(土) 08:10:00.54
中央コンピュータの暴走
そのコンピュータに制御されたロボットの反乱・・・
世界が危ない!

84: 2017/07/15(土) 08:13:01.90
>>79

スカイネットは、ジェネシスだ!・・・

125: 2017/07/15(土) 08:53:00.39
>>79
いつも中央集権コンピューターが出てくるたびに思うんだが
一々マザコンにお伺い立ててる体制の場合
マザコン周りの回線ってどーなっちゃうんだろうかと

オープン初日のオンゲーとか比じゃないくらいむっちゃ混みこみだろうに

87: 2017/07/15(土) 08:17:15.45
かゆ・・うま・・

165: 2017/07/15(土) 09:39:53.73
手塚治虫の火の鳥でAi同士が話すと狂うってのを思い出してすごい怖い

235: 2017/07/15(土) 12:20:07.03
>>165

最後は、「話は聞かせて貰った。人類は滅亡する!」

だしなあ、アレ(´・ω・`)

キムジョンウンかマザーコンピューターか、くらい危険。

170: 2017/07/15(土) 09:44:30.49
独自の言語っていうからもっと暗号的な感じかと思ったら
普通に英語じゃねーか

174: 2017/07/15(土) 09:47:08.90
>>170
これ単なる設定のさじ加減だよな
リピートに関しては単に制限を設けてないだけな気がする

180: 2017/07/15(土) 10:10:59.16
AIに人体型のモデル操作させたら上半身振り回してジャイロで安定させて走り回るの思い出した

185: 2017/07/15(土) 10:16:57.95
人の会話ってクッソ無駄で非効率な事を多分に含んでるからな
特に酒が入ると最悪
昨日も先輩名指しでボロクソに言ってしまったわ まぁ仲は悪くないから笑って終わったけど

187: 2017/07/15(土) 10:18:46.33
>>185
そこがコミュニケーションの難しいところで笑っていても心の中はわからない

191: 2017/07/15(土) 10:19:56.98
>>187
やっぱ社会人向いてないわほんと
というか俺に酒飲ませるな
普段セーフティかけてるのにグダグダになる
ほんと嫌になるわ

196: 2017/07/15(土) 10:28:29.50
電源落とせ

198: 2017/07/15(土) 10:29:59.32
ハゲを治療する方法を発見するのは人工知能

210: 2017/07/15(土) 11:15:12.07
>>198
フサフサにするにはフサフサとフサフサを掛け合わせるしかない
ハゲの遺伝子もちは滅ぼすしかない

218: 2017/07/15(土) 11:36:10.85
>>210
フサ2×フサ2のインブリードですか
危険な香りしかしませんね

248: 2017/07/15(土) 13:06:37.72
まあ、ひふみんとか見てると将棋で数手先まで読めても会話は支離滅裂ってのはあるしな
将棋の論理と会話の論理は別物か

255: 2017/07/15(土) 14:19:58.21
>>248
ひふみんはコンピュータなのかもしれないな

288: 2017/07/15(土) 17:44:15.91
単なるコンピュータの箱としてのAIなら好きにやらせれば良い。いつでも電源引っこ抜けるし。ただロボットと組み合わせて自由に活動させるのはヤバイな。

289: 2017/07/15(土) 17:46:00.42
>>288
ネット接続前提で
自動運転だの工場での開発が基準になるといろいろすごいことできそうだね
既存の暗号も近いうちに多数破るんだろうし

管理人コメント
IT業界で飯食っている人間としては、
AIによる自動化って、かなり心躍る話題なんですけどね~。
人の仕事が奪われるとか言われていますが、そのときは
また新しい仕事ができてるんじゃないですかね?