Facebook спря изкуствения си интелект, излязъл извън контрол

Софтуерните инженери във Facebook временно изключиха изкуствения интелект, който разработват, от мрежата… тъй като той успя да измисли свой собствен език за комуникация и на практика излезе от техния контрол, започвайки да си комуникира на него.

Системата, разработвана от социалната мрежа, се самообучава, като по този начин прави разговорите с ботове в Messenger много по-реалистични за хората, но след експеримент в който програмистите пробвали да пуснат два отделни бота да си говорят сами FAIR (изкуствения интелект на Facebook) надминал очакванията към себе си. Излизайки от първоначално начертания сценарий, ботовете започнали да използват нови изразни средства, преминавайки на своя собствена комуникация.

Случилото се е само продължение на десетките предупреждения на специалисти и най-вече тези на Елън Мъск и Стивъ Хокинг, които няколко пъти тази година алармираха, че AI може лесно да излезе извън контрол и да повтори сценария на филми като Терминатор по начин, който дори сега не можем да си представим.

В случая не е станало нещо сериозно, но инженерите просто спрели да разбират какво си говорят ботовете Боб и Алис.

Анализът на специалистите не показва за какво са започнали да си говорят ботовете, но според тях създадените от тях нови изречения показали, че изкуствения интелект може да се развива и самообучава, за да изпълни целта си.

Подобна ситуация всъщност не се среща за първи път. Лабораторията на Мъск OpenAI вече успя да накара ботове да развият свой собствен език, а в Google откриха, че изкуственият интелект, отговарящ за функцията „Преводач” е написал свой език, за да си помогне при превеждането на изречения.

 

Pin It on Pinterest

Share This
Close