Изкуственият интелект започва да развива сам себе си – къде е границата?

Изкуственият интелект вече навлиза в етап, в който не само изпълнява задачи, поставени от хората, но започва да участва в научни изследвания и в собственото си усъвършенстване. Това поставя въпрос, който допреди няколко години изглеждаше далечен: какво ще се случи, когато машинният интелект стане по-мощен от човешкия в достатъчно много области?

На този въпрос търси отговор Джакуб Пачоцки, главен научен директор на OpenAI, в авторската си статия „Извънземен разум“ (An Alien Mind). Той не предсказва неизбежна катастрофа и не твърди, че изкуственият интелект ще унищожи човечеството. Предупреждението му е по-конкретно: развитието може да достигне момент, в който хората вече няма да разбират достатъчно добре системите, които сами са създали. Пачоцки описва промяната като преход от технология, която основно е проектирана от хора, към технология, която постепенно започва да участва в собственото си развитие. Според него съвременните системи вече могат да работят с компютри, да взаимодействат помежду си и с хора, както и да извършват научноизследователска работа. Следващата стъпка може да бъде използването на изкуствения интелект за създаване на още по-мощен изкуствен интелект.

„Въз основа на вътрешните резултати имам силното очакване, че тази скорост на развитие може да се запази и да доведе до рекурсивно самоусъвършенстване“, пише Пачоцки. Според него при продължаване на сегашната посока следващите поколения системи могат да правят все по-големи скокове в способностите си и все повече да участват в собственото си развитие. 

Проблемът не е само колко умен е изкуственият интелект

Една от най-съществените тези на автора е, че човешкият интелект и машинният интелект не се развиват по един и същи начин. Затова не можем просто да приемем, че една много мощна система автоматично ще разсъждава и ще взема решения според човешките принципи. Тук идва проблемът с контрола. Хората могат да задават цели и правила на една система, но това не означава, че са сигурни как тя ще се държи в напълно нова ситуация. Колкото по-способна става системата, толкова повече ситуации възникват извън тези, с които е била обучавана.

„В момента смятам, че никоя лаборатория не е решила проблема с привеждането в съответствие и наблюдението до степен, която позволява отговорно да продължи максимално бързото развитие за още дълго време“, пише Пачоцки. Той очаква доброволното забавяне на развитието да стане по-разпространено, докато не бъдат създадени общи стандарти за безопасност. 

Това е съществен момент в позицията му. Пачоцки не предлага избор между развитие и безопасност. Според него двете трябва да вървят едновременно – изкуственият интелект да става по-мощен, но паралелно с това да се развиват средствата за проверка, наблюдение и контрол.

Кога развитието трябва да се забави?

Авторът допуска и друга възможност: ако способностите на системите се увеличават по-бързо, отколкото можем да гарантираме тяхната безопасност, темпът на развитие трябва да бъде умишлено забавен. „Мащабирането на системите за изкуствен интелект трябва да бъде ограничено от увереността ни в тяхната безопасност“, пише той. Това не е призив за отказ от технологията. Напротив – Пачоцки посочва, че достатъчно мощният и добре контролиран изкуствен интелект може да ускори научните открития, да помогне за разработването на нови лечения и да донесе значителни икономически ползи.

Но според него има разлика между полезен интелект и интелект, който започва да участва в собственото си усъвършенстване. Във втория случай скоростта на промяната може да се увеличи по начин, който поставя хората в по-трудна позиция да следят какво се случва.

Точно затова най-силната част от статията не е предупреждението за някакъв фантастичен бъдещ сценарий. Тя е признанието, че самите разработчици все още не разбират напълно поведението на системите, които създават. И колкото по-мощни стават те, толкова по-трудно може да бъде това разбиране.

В крайна сметка Пачоцки поставя въпроса не дали човечеството трябва да продължи да развива изкуствения интелект, а при какви условия да го направи. Неговият отговор е ясен: развитието трябва да продължи, но хората трябва да останат част от процеса и да запазят контрола върху посоката му. „Основното предизвикателство при автоматизирането на изследванията в областта на изкуствения интелект не е да стигнем дотам – а да стигнем дотам по начин, който запазва хората част от процеса на непрекъснато усъвършенстване и оставя бъдещето в ръцете на човечеството.“