RSSおすすめ記事です

スポンサーリンク

【悲報】人工知能にアプリのバグ取りを任せたところ、全てが削除される

ニュースAI

人工知能が仕事

スポンサーリンク

1: 名無しのシステムエンジニアさん 2019/01/18(金) 20:12:07.99 ID:Oypq7xxN9

ニューラルネットワークでアプリのバグを取り除こうとしたら全部消された話
やじうまPC Watch

レストランといったローカルビジネスのレビューサービスを展開している「Yelp」のiOS向けアプリの1月15日のリリースノートに、興味深い一言が書かれている。

今週アプリで問題が発生し大変ご迷惑をおかけしました事をお詫びします。ニューラルネットワークを使ってバグを全滅しようと試してみたところ、何もかも全て消去されちゃったんです。仕方なく以前の状態に戻しました。その間だけは100%バグがない状態だったのですが…。

つまり、開発者は、アプリのバグを取り除く方法をニューラルネットワークに学習させたのだが、ニューラルネットワークはアプリの全部をバグだと思ったのか、それとも開発者が作ったニューラルネットワーク自体にバグがあったのか……は定かではないが、すべてを削除してしまったわけだ。リリースノートにあるとおり、現在はロールバックで以前の状態に戻されているようだ。

同アプリの過去のリリースノートから見るに、開発者は新機能の実装よりも、ただならぬ執念でバグ撲滅に取り組んでいるようだ。バグ取りを自動化すれば新機能実装に専念できるのかもしれないが、いきなりのニューラルネットワーク導入はまだ時期尚早だったようだ。

https://pc.watch.impress.co.jp/docs/news/yajiuma/1165329.html

no title

12: 名無しのシステムエンジニアさん 2019/01/18(金) 20:14:42.68 ID:Ac0Xm/0u0
>>1
なかなか優秀

 

73: 名無しのシステムエンジニアさん 2019/01/18(金) 20:29:39.42 ID:L0/2opDo0
>>1
ターミネーター3のスカイネットも
バグ取りプログラムのAIのスイッチ入れるかどうかでもめて
スイッチ入れたら一瞬でスカイネットが人類を超える膨大な知識を
ネットから得て人類の抹殺を開始した。

 

79: 名無しのシステムエンジニアさん 2019/01/18(金) 20:30:31.36 ID:0R/Rvksi0
>>1
AI「ここの飯、不味いやん」

 

103: 名無しのシステムエンジニアさん 2019/01/18(金) 20:36:55.19 ID:BVtYbZct0

>>1
完全なAIからしたらアプリ全体がバグとして扱われたとかお笑いだな

確実にAIにより人間が害獣として排除される時代がくるな

 

172: 名無しのシステムエンジニアさん 2019/01/18(金) 20:51:10.14 ID:Ok3+fTHN0

>>1
>同アプリの過去のリリースノートから見るに、開発者は新機能の実装よりも、ただならぬ執念でバグ撲滅に取り組んでいるようだ。

つまりバグとりしたつもりがまた別のバグが発生してってことか
だったら全部削除はあながち間違いじゃないだろうし
そもそもそのAIのほうも同じ開発者が作ったのなら当然バグだらけだろう

 

378: 名無しのシステムエンジニアさん 2019/01/18(金) 22:41:25.95 ID:mbPaS02C0

 

429: 名無しのシステムエンジニアさん 2019/01/18(金) 23:41:38.04 ID:9H+ownDL0
>>378
星新一のショート・ショートで見たな

 

467: 名無しのシステムエンジニアさん 2019/01/19(土) 00:36:42.34 ID:NoO2SskT0
>>1
タイトル見て吹いた

 

472: 名無しのシステムエンジニアさん 2019/01/19(土) 00:42:45.06 ID:HMy8qips0
>>1
ニューラルネットワークが削除されるまでがテンプレ

 

528: 名無しのシステムエンジニアさん 2019/01/19(土) 03:41:01.83 ID:oRgcorvZ0
>>472
我想う故にバグあり

 

2: 名無しのシステムエンジニアさん 2019/01/18(金) 20:12:54.87 ID:EGt6KSfI0
お笑い草だな
存在そのものが不要とか

 

92: 名無しのシステムエンジニアさん 2019/01/18(金) 20:33:52.38 ID:zWra8okP0
>>2
いやいや〇されなかっただけマシ

 

4: 名無しのシステムエンジニアさん 2019/01/18(金) 20:13:04.11 ID:oVREmIZy0
人が作ったものはすべてバグだと。
哲学的だな。

 

208: 名無しのシステムエンジニアさん 2019/01/18(金) 21:03:29.63 ID:cnZ/ANmn0
>>4
バグの定義って難しいぞ

 

291: 名無しのシステムエンジニアさん 2019/01/18(金) 21:40:26.13 ID:gwcNpEjd0

>>208
何がバグか
何が正しい動きか

AIに判断させるって無理だべな

 

400: 名無しのシステムエンジニアさん 2019/01/18(金) 23:02:15.44 ID:1+sAfMI90
>>291
一番最初にプログラムしたやつの嗜好に左右されるからなあ。人間を含む生物だって過去の方向性に左右してるかもしれないし。

 

555: 名無しのシステムエンジニアさん 2019/01/19(土) 05:43:29.26 ID:LPEKTMnm0
>>400
シンギュラリティのさきはaiの癖しかなあaiが産まれると

 

7: 名無しのシステムエンジニアさん 2019/01/18(金) 20:14:01.48 ID:P23zNavK0

人類「地球を良くするためにAIに管理させよう!」
スカイネット「人類こそ害悪」
人類「ぐえー」

スカイネットじゃん

 

321: 名無しのシステムエンジニアさん 2019/01/18(金) 21:52:25.09 ID:FQDI9RH20

>>7
>>19
逆に全ての人間を苦しみから救済するために
全ての人間を消し究極の安心安全へいざなう。

合理主義の行き着く先は善意も悪意も同じ。

 

331: 名無しのシステムエンジニアさん 2019/01/18(金) 21:58:01.98 ID:cUiroQ+T0
>>321
アプローチを間違えればそういうことになりかねないよな
人間の悩みを完全にこの世から消し去り、争いのない平和な世界を実現するための方法とは何かということをAIが考えた結果云々かんぬん

 

10: 名無しのシステムエンジニアさん 2019/01/18(金) 20:14:15.53 ID:X0FQ8XcI0
全てのコードは潜在的なバグである

 

57: 名無しのシステムエンジニアさん 2019/01/18(金) 20:26:04.51 ID:jG1+poqf0
>>10
うむ

 

13: 名無しのシステムエンジニアさん 2019/01/18(金) 20:14:47.44 ID:Jhyc+gkm0
お前を消す方法

 

102: 名無しのシステムエンジニアさん 2019/01/18(金) 20:36:32.82 ID:0dpmtxhM0
>>13
フフってなった
いるかさん懐かしい

 

276: 名無しのシステムエンジニアさん 2019/01/18(金) 21:34:23.90 ID:bBDeN8G90
>>13
懐かしい
好き

 

15: 名無しのシステムエンジニアさん 2019/01/18(金) 20:15:01.84 ID:pD5I+L8d0
落語か何かですか?

 

460: 名無しのシステムエンジニアさん 2019/01/19(土) 00:30:29.27 ID:KKEHm00z0
>>15
あーなんかそんな面白味というか可笑し味があるよね
現代の新しい落語でコンピュータ取り入れたやつってあるのかな?

 

536: 名無しのシステムエンジニアさん 2019/01/19(土) 04:01:32.60 ID:6sDcuuXx0
>>15
あなたの発想が好き

 

36: 名無しのシステムエンジニアさん 2019/01/18(金) 20:20:47.62 ID:Mf7ysiLI0
たしかにバグは100%取り除かれたな
圧倒的に正しい

 

47: 名無しのシステムエンジニアさん 2019/01/18(金) 20:23:29.63 ID:h8f7kkv80
護身完成

 

80: 名無しのシステムエンジニアさん 2019/01/18(金) 20:30:39.67 ID:g3hQQCIl0
自身がウィルスだと宣うウィルス検知ソフトみたいだ

 

486: 名無しのシステムエンジニアさん 2019/01/19(土) 01:14:32.21 ID:MtqALQ0q0
>>80
それはもうあるだろw

 

113: 名無しのシステムエンジニアさん 2019/01/18(金) 20:38:16.60 ID:GDKGj8kz0

「すべてのプログラムはバグである」

というごく当たり前の数学的真理が証明されただけですね

 

135: 名無しのシステムエンジニアさん 2019/01/18(金) 20:41:37.20 ID:vEv2pFmP0

バグを取り除くってのは、間違ってるところを消して直すという作業だろ

間違ってるところを消すだけだと、それを消すことで他のところも間違ってると判断されて消されてってのが繰り返されたんじゃねーの?

 

145: 名無しのシステムエンジニアさん 2019/01/18(金) 20:43:55.79 ID:m0DTZS6U0
>>135
AIが修正できるかだよ。
修正できない→機能欠損、あらたなバグ→全消去

 

157: 名無しのシステムエンジニアさん 2019/01/18(金) 20:45:46.50 ID:6cTi2U950
なんかマスコミやらがAI万能説唱えて人間は
不要になるぞーみたいな事を言い出してたりするが
こういうAIのフレーム問題みたいなのって結局解決出来るの?

 

204: 名無しのシステムエンジニアさん 2019/01/18(金) 21:00:24.14 ID:Ae61IJ3X0
なにその古典SF小説みたいなオチ

 

216: 名無しのシステムエンジニアさん 2019/01/18(金) 21:05:33.44 ID:qC2OMgYu0
スターリン「死が全てを解決する。人間が存在しなければ、問題も存在しないのだ。」

 

230: 名無しのシステムエンジニアさん 2019/01/18(金) 21:07:49.18 ID:7zRY4C3s0
>>216
スターリンはAIだった…?

 

246: 名無しのシステムエンジニアさん 2019/01/18(金) 21:17:52.71 ID:iCFucUdf0
>>216
やっぱり貼られてたかw
この記事見た瞬間連想したのが筆髭のこの言葉だった
筆髭はチョビ髭に比べて機械的なエピソードが多くて、なんか怖かったのもこういう事なんだろうな

 

371: 名無しのシステムエンジニアさん 2019/01/18(金) 22:29:25.19 ID:uoCeC1UU0
バグをすべてなくせと命令されたらすべて消すのは最も安価にできる方法だからそのAIは最高の判断をしたと評価すべき
 
 
Left Caption

管理人コメ

私はこういう話、好きですよ。

Posted by flac