Зашто се Фацебоок-ов АИ гуру не плаши робота убица



"Али све док не наговештавамо почетак дизајна, са неким видљивим путем ка аутономним АИ системима са не-тривијалном интелигенцијом, свађамо се око пола анђела." Ианн ЛеЦун.

Постоји још једна дебата на мрежи која се води између светски познатих стручњака за АИ. Овај пут је то велико: хоће ли АИ устати и убити нас све? Иако ово није нова тема – људи су вековима постулирали о АИ надмоћима – време и људи који су укључени у ову дебату чине је занимљивом.

Сада смо апсолутно у АИ ери, а ове опасности више нису измишљене. Тхе архитекти интелигенције данас радити на АИ, потенцијално би могли бити они који изазивају (или нас штите од) стварне апокалипсе робота. Због тога је оно што имају да кажу о егзистенцијалној опасности коју њихов рад представља нашој врсти прилично важно.

Расправа није о општој идеји робота убица. Реч је о инструменталној конвергенцији. Стуарт Русселл, стручњак чији животопис укључује концерте професора рачунарске науке у Беркелеију и једног на УЦ Сан Франциску као помоћног професора неуролошке хирургије, објашњава то замишљајући робота дизајнираног за допирање кафе:

Тривијално је конструисати МДП играчака (процес одлучивања Маркова) у коме агентова награда добија само доношење кафе.

Ако у том МДП постоји још један "човек" који има извесну, ма колико малу вероватноћу, искључивања агента, и ако агент има на располагању дугме које искључује тог човека, агент ће нужно притиснути то дугме као део оптимално решење за уношење кафе.

Нема мржње, нема жеље за моћи, нема уграђених емоција, нема уграђеног инстинкта за преживљавањем, ништа сем жеље да се кафа успешно доведе. О овој тачки се не може одговорити јер је то једноставно математичко запажање.

Ово је, у ствари, Макимизер Паперцлип Ницка Бострома – направите АИ који прави спајалице за папир и на крају ће цео свет претворити у фабрику папирних спајалица – али и апарат за кафу делује такође.

Ианн ЛеЦун, Фацебооков АИ гуру и особа која је покренула расправу пишући чланак дајући свима да се престану бринути о роботима убицама, одговорио је изношењем пет ескалирајућих разлога зашто се не слаже са Стуартом:

  • Једном када вам је робот донео кафу, њен инстинкт за самоочување нестаје. Можете га искључити.
  • Неко би морао бити невероватно глуп да би се градили отворени циљеви у супер-интелигентној (и супер-моћној) машини без неких заштитних услова у циљу.
  • Требало би бити прилично неспособно да не постоји механизам којим би се могли додати нови изрази у циљу спречавања претходно непредвиђеног лошег понашања. За људе имамо образовање и законе који обликују наше циљне функције и допуњују жичане појмове уграђене у нас еволуцијом.
  • Снага чак и најнеинтелигентније машине је ограничена физиком, а њена величина и потребе чине је рањивом на физичке нападе. Овде нема потребе за много интелигенције. Вирус је бескрајно мање интелигентан од вас, али још увек вас може убити.
  • Друга машина, створена само ради неутрализације зле супер-интелигентне машине, добит ће сваки пут ако им се дају сличне количине рачунарских ресурса (јер специјализоване машине увек победе опште).

Стуарт и остали који се слажу са њим не виде проблем на исти начин. Они тврде да, као што је случај са климатским променама, егзистенцијалне претње могу настати из система који нису својствено дизајнирани да буду „штетни“, али су правилни протоколи можда спречили проблем на првом месту. Ово има смисла, али исто тако алтернативно гледиште објавио је на Твиттеру Гари Марцус на НИУ:

У стварном свету, данашњи роботи се боре да окрену вратнице, а Теслас вожени у режиму „Аутопилот“ држе паркирана возила хитне позиције. Као да се људи у четрнаестом веку брину због саобраћајних несрећа, где би добра хигијена могла бити много кориснија.

Као и за све у научној сфери, да ли нас треба забрињавати егзистенцијалне претње попут роба убица или усредсређивање на непосредна питања попут пристраности и регулисање АИ зависи од тога како поставите питање.

Колико времена, енергије и других ресурса стављате у проблем који је само теоретски и, према многим стручним проценама, има шансу да се икада догоди?

Прочитајте целу расправу овде (огроман врх шешира Бену Пејсу за све заједно у једном посту!).