Инженерите на Facebook се паникьосват, изключват AI, след като ботовете разработят свой собствен език

Наука

Инженерите на Facebook се паникьосват, изключват AI, след като ботовете разработят свой собствен език

Тъй като най-мощните компютърни системи в света започват сериозно да възприемат изкуствения интелект, използвайки интелигентни алгоритми за повишаване на ефективността и скоростта, потенциалните щети, които може да причини „измамен“ AI, продължава да нараства. Много в технологичната общност теоретизираха как изкуственият ум може да се обърне срещу своите създатели, а Facebook току-що получи интересен урок как може да се развие подобен сценарий. Фейсбук инженери бяха принудени да изключите една от системите за изкуствен интелект на компанията, след като нейните ботове започнаха да общуват помежду си на напълно нов език, който хората просто не можеха да дешифрират.

Установено е, че ботовете с изкуствен интелект, които първоначално са били програмирани да използват обикновен английски, за да общуват помежду си, говорят нещо, което изглежда е глупост. Изречения като „Мога да направя всичко останало“ и „Топките имат нула към мен към мен към мен към мен към мен към мен към мен“ се изпращаха напред-назад от ИИ и докато хората нямат абсолютно никакви идея какво означава, ботовете напълно се разбраха. Без да може да разбере как и защо ботовете комуникират, Facebook нямаше друг избор, освен да изключи системата.

Много очевидната опасност тук е, че компютрите, които могат да общуват помежду си, използвайки собствения си език, са не само невъзможни за разбиране, но и много по-трудни за управление. В този случай ботовете не бяха обвързани с обикновен език и привидно разработиха по-ефективен начин за комуникация помежду си, решавайки сами кое е най-доброто. Това е едновременно впечатляващо и страшно.

Марк Зукърбърг от Facebook е голям привърженик на изкуствения интелект и дори се е сблъскал с други технологични лидери като Илон Мъск заради прегръдката му на AI и очевидната липса на загриженост относно теоретичните опасности, които интелигентните компютри могат да представляват за човечеството. След събитията от този уикенд, може би той ще промени малко мелодията си.