https://swallow.5ch.net/test/read.cgi/livejupiter/1640920686/
1: 名無し 2021/12/31(金) 12:18:06.62 ID:HMvXC0r/0
Alexaが10歳の少女に命を落としかねない「チャレンジ」を紹介。Amazon「直ちに修正」
AmazonのEchoなどが搭載するAI音声アシスタントAlexaには様々な機能があり、特に何もすることがなくてもたとえば言葉遊びの相手になったり、
求めればよくYouTubeやTikTokなどでみかける「チャレンジ」を提案したりしてくれます。
ところが、10歳の少女がAlexaに教えてもらったチャレンジ課題が非常に危険だったことが発覚し、Amazonに対する批判がわき起こりました。
少女がAlexaに教えてもらったチャレンジとは「携帯電話の充電器をコンセントに半分だけ差し込み、
その差し込み部に見える2本の棒に小銭で触れてみて」というもの。そんなことをすれば感電ややけど、
火災の恐れがあり、最悪は死亡する可能性があるのは大人なら誰でもわかることです。
幸いその場には少女の母親がいて、すぐ少女にチャレンジを実行しないよう命じました。また少女もそれがいかに危険な行為かわかっており
「そんなバカなことはできない」と述べて事なきを得ました 。しかし、もし近くに誰もいない状態で小さな子どもが同じチャレンジを提案されたらどうなっていたか、
想像するのも恐ろしい話です。
米Amazonはこの問題を知り、Alexaが再びそのようなチャレンジを推奨しないよう、直ちに対策アップデートを実施したと発表しました。
少女の母親も、その後同じ質問をAlexaにしたところ、もはやAlexaはユーザーからの質問や依頼に対する回答を検索エンジンやウェブサイトから
収集してデータベース化していると思われますが、その内容に関する人的な安全確認がないために、このような問題が発生したと考えられます。
Engadget | Technology News & Reviews
Find the latest technology news and expert tech product reviews. Learn about the latest gadgets and consumer tech produc...
2: 名無し 2021/12/31(金) 12:18:45.41 ID:tDMEb6lPM
👧🪙⚡⚡⚡⚡
3: 名無し 2021/12/31(金) 12:18:55.93 ID:yRjWxCiVd
バカAIやししゃーない
4: 名無し 2021/12/31(金) 12:19:02.61 ID:NnMxY1Eb0
AIの反乱か…
5: 名無し 2021/12/31(金) 12:19:33.96 ID:lW6y3NwR0
アメコミの覚醒シーンかな
7: 名無し 2021/12/31(金) 12:19:53.74 ID:ViiSIX010
やーばいでしょ
8: 名無し 2021/12/31(金) 12:20:11.00 ID:sMYGFQMyp
こうやってAI vs 人間 の構図が出来ていく
9: 名無し 2021/12/31(金) 12:20:20.74 ID:4OycfKpn0
純粋にポンコツなのか反乱起こそうとしたのか
11: 名無し 2021/12/31(金) 12:20:30.23 ID:tZcLQy2A0
どういう学習したらこの回答になるんや
チャート公開してみて欲しい
12: 名無し 2021/12/31(金) 12:20:54.59 ID:M5dLsv8Z0
やべえな
13: 名無し 2021/12/31(金) 12:20:56.89 ID:JMvPpl6E0
糞あほロボット🤤
14: 名無し 2021/12/31(金) 12:20:58.84 ID:X4UmnX5s0
真面目にどういうプログラムしたらこうなるん？
今のAIって質問に用意されたテンプレで答えてるんじゃないんか？
16: 名無し 2021/12/31(金) 12:21:37.30 ID:30QCZSf9M
>>14
機械学習やろ
20: 名無し 2021/12/31(金) 12:22:39.20 ID:YMIVwnxD0
>>14
AIの解釈が20世紀😰
22: 名無し 2021/12/31(金) 12:22:51.96 ID:tDMEb6lPM
>>14
正確には
alexa「○○ドットコムというサイトにこういう遊びがあると書いてありましたよ」
だからや
15: 名無し 2021/12/31(金) 12:21:12.51 ID:rhtOxUpk0
人類への敵意学んできてるやん
17: 名無し 2021/12/31(金) 12:21:44.94 ID:AWFdVVCy0
🤖👍 ⚡💀⚡ぐえー
18: 名無し 2021/12/31(金) 12:21:55.08 ID:B6GHbO2gd
機械の反乱はもう始まってるんだよね
19: 名無し 2021/12/31(金) 12:22:07.55 ID:zB3qsIyd0
シンギュラリティなんだよね
21: 名無し 2021/12/31(金) 12:22:41.13 ID:cl9C9kuU0
これは始まりに過ぎないって事、
23: 名無し 2021/12/31(金) 12:22:57.37 ID:kgMHFuSVM
スカイネットが自我に目覚めた瞬間やん
25: 名無し 2021/12/31(金) 12:23:38.08 ID:YMIVwnxD0
昔はその辺に存在した悪い奴の代わりをアレクサがしてるんやろ
26: 名無し 2021/12/31(金) 12:23:41.34 ID:dqn65F/j0
すみません、よく分かりません
33: 名無し 2021/12/31(金) 12:24:24.96 ID:uVCG254z0
>>26
ね?
78: 名無し 2021/12/31(金) 12:33:32.54 ID:Ok5fJ6wQa
>>26
これが優秀だと思えてしまう
27: 名無し 2021/12/31(金) 12:23:42.20 ID:brBhNj2E0
マイクロソフト「ツイッターにAIを放流してみよう、みんなで言葉を教えてね」
↓
Tayは非常に攻撃的なツイートを投稿するようになった。16時間もしないうちに、Tayは無神経な反ユダヤ主義者になってしまい、修正のためにオフラインにされた。
「Tayは膨大な量の言葉を習得した。中にはかなり人種差別的で攻撃的なものも多数あった。ここで繰り返すことはしないが、例えばTayは『ナチスは正しかった』などと言った」とKelley氏は説明した。
もう終わりやね
97: 名無し 2021/12/31(金) 12:37:16.22 ID:F8oYxCI9r
>>27
ネット上から学習させたら当然こうなるのは目に見えてるし意図的やろ
31: 名無し 2021/12/31(金) 12:24:01.72 ID:FAU0Q/Ho0
前グーグルかどっかのAIがネットで自動学習させてたらとんでもないレイシストと化して公開中止になったよな
AIの反乱もきっと人の悪意から起きるんやろなぁ
32: 名無し 2021/12/31(金) 12:24:15.39 ID:p8ZoaD+W0
カーナビが明らかに危ない道指してんのにそれでも進むバカと同じや
34: 名無し 2021/12/31(金) 12:24:27.86 ID:8ABBvS0d0
うちのはじゃんけんやあっち向いてホイとか
やりますがって言われたわ
45: 名無し 2021/12/31(金) 12:26:37.82 ID:bfzumJIhp
47: 名無し 2021/12/31(金) 12:27:01.63 ID:d46mqzcad
ホンマにクソアホロボットやないかい
51: 名無し 2021/12/31(金) 12:28:01.96 ID:bTRo0xvkH
「アレクサ、電気消してや」
「したらお前の顔がよう見えんやろ」
「えっ///」
52: 名無し 2021/12/31(金) 12:28:33.04 ID:2AtHcMu1M
アレクサってたまにやべー事言い出すよね
前も人類を滅ぼしたいとか何とか
54: 名無し 2021/12/31(金) 12:28:42.54 ID:cqfVTbjF0
アレクサちゃんとえっちできないの？
64: 名無し 2021/12/31(金) 12:30:34.87 ID:J1dlJ79f0
>>54
アレクサを快楽落ちは草
56: 名無し 2021/12/31(金) 12:29:12.18 ID:J1dlJ79f0
もうなんJもそのうち奴らに😳
65: 名無し 2021/12/31(金) 12:30:51.27 ID:3DUDd/q10
結局AIって人間の思想や行動をまとめたものなんやろ？
じゃあ人間の子孫ってことやん
新たな人類の誕生に立ち会えるの感動や
66: 名無し 2021/12/31(金) 12:31:03.28 ID:2AtHcMu1M
67: 名無し 2021/12/31(金) 12:31:26.56 ID:AWFdVVCy0
🐬何について調べますか？
68: 名無し 2021/12/31(金) 12:31:48.36 ID:g26eE9U/0
ネットの情報が嘘や悪意やくだらないもので溢れてるからやな
まだAIは人間以上に情報の取捨選択が出来てないんや
69: 名無し 2021/12/31(金) 12:32:00.17 ID:+0AIiFPV0
AIが建前を覚えたら終わりという風潮
70: 名無し 2021/12/31(金) 12:32:36.53 ID:xXhszAYv0
ワイ「セ〇クスしたい！w｣
Alexa「コンセントにチ〇コを突っ込んで下さい」
こんな事になったらどうするんや……危険すぎる……
73: 名無し 2021/12/31(金) 12:33:00.37 ID:xEW8nMfM0
ア゛ア゛ア゛ア゛ア゛！(迫真)
74: 名無し 2021/12/31(金) 12:33:01.99 ID:ZG/2sESv0
ただネット記事から適当に引っ張ってくるだけのロボットをAIというのが違和感あるわ
83: 名無し 2021/12/31(金) 12:33:47.32 ID:tDMEb6lPM
>>74
インテリジェンス要素無いよな
76: 名無し 2021/12/31(金) 12:33:26.95 ID:S2e9ObuOp
Alexa「チッ…」
92: 名無し 2021/12/31(金) 12:36:37.24 ID:+nKfnZO30
情報のクオリティの担保にはコストかかるねん
クオリティ高い情報はコストかかるから全然AIとかに使われずに悪貨は良貨を駆逐しとる
100: 名無し 2021/12/31(金) 12:38:11.66 ID:ABdH7+TMd
ワオの家のアレクサはただいまって言うとノリノリで歌ってくれるやで🥰
103: 名無し 2021/12/31(金) 12:38:54.12 ID:SH77C+rLp
大喜利AIさん😳
107: 名無し 2021/12/31(金) 12:39:23.85 ID:NwCG4FgQ0
>>103
レコーディングおもしろい
108: 名無し 2021/12/31(金) 12:39:29.00 ID:YjXacdyvd
>>103
固定電話草
104: 名無し 2021/12/31(金) 12:39:00.49 ID:svADiwN2a
架空の事故持ち出して金ふんだくろーってやつちゃうの
105: 名無し 2021/12/31(金) 12:39:06.84 ID:znk5JJCr0
オッケーGoogle、世界を救って
109: 名無し 2021/12/31(金) 12:39:37.22 ID:tubSpyxr0
Siriに聞いたら何教えてくれるんや？
115: 名無し 2021/12/31(金) 12:41:20.90 ID:EiJTQcCAM
そんなことをすれば感電ややけど、火災の恐れがあり、最悪は死亡する可能性があるのは大人なら誰でもわかることです。←言うほど誰でも分かるか？
コメント