Ребята, читали сегодняшнюю новость?
Военный квадрокоптер Kargu-2, находясь в автономном режиме работы, убил человека во время вооруженного конфликта в Ливии.
Эпизод произошел в марте 2020 года, однако об этом стало известно только сейчас. Дрон был произведен в Турции и работал в «высокоэффективном автономном режиме», то есть был запрограммирован для атаки целей без необходимости команд от оператора. Kargu-2 оснащаются взрывчаткой и могут быть наведены на цель для самоподрыва.
Погибший был участником Ливийской национальной армии под предводительством Халифа Хафтара — она воюет против регулярной армии правительства Ливии в Триполи.
Какое отношение это имеет к дедушке Чипполо? А такое, что многие страны, занимающиеся созданием искусственного интеллекта, соревнуются с друг другом, смогут ли они не просто создать ИИ, но и наделить его эмоциональными свойствами. Бодрые рапорты о том, что “мы пытаемся алгоритмизировать женскую стервозность и наделить ею наш продукт” я читаю последние несколько лет, и чем дальше в лес, тем больше меня поражает тот факт, что эти “золотые и бриллиантовые мозги” на самом деле достались дуракам.
Для меня всегда была малопонятной русская пословица “умная голова дураку досталась”, однако, теперь всем нам действительно предоставляется великий шанс узреть иллюстративный материал к этой народной мудрости.
Вы себе представляете, что такое женская стервозность? Ну женщины, склонные к самонаблюдению и самоанализу сейчас вспомнили самые позорные и стремные моменты собственной биографии. Но у нас опция “закусила удила, несусь хер знает, куда” ограничивается гигантским количеством деталей, запретов и нюансов – от дня цикла до марки туши на ресницах. Наделить ИИ этим кошмаром – это все равно, что выйти на лужайку с колбой сибирской язвы и начать чисто играться “собачка, подай колбочку”.
“Золотые мозги” не соображают, не просчитывают, с чем они играются? Или они пользуются тем, что никаких ограничительных контролирующих науку органов нет и не предвидится – поэтому раззудись, плечо, размахнись, рука?
И мартовское событие (я уверена, они знали об этом сразу же) ни на что не натолкнуло?
Робот убил человека в автономном режиме, самообучающаяся машина приняла решение независимо от оператора – и устранила цель. Какие в жопу три закона робототехники от дедушки Айзека А? Какие там ограничения?
А теперь, ребята, добавьте сюда все безумные прожекты наделить самообучающуся машину эмоциями, особенно стервозного ряда. Добавьте сюда фактор багов, ошибок, хакерских атак… И вы получите перспективу такого масштаба, по сравнению с которой все киношки про Терминатора, самопогружающегося в лаву с “ай-лл би бэк”, покажутся лепетом про курочку Рябу.
Но “золотые мозги” продолжают работать, ребята, они реально настолько идиоты, что не умеют просчитать перспектив своей работы на два шага вперед.
Чипполо прав. Государства рушатся тогда, когда количество идиотов у власти перестает компенсироваться умными людьми. Похоже, нет никаких сложных и тайных заговоров, нет никаких хитрых схем… Есть просто идиоты, которым достались либо мозги с высоким интеллектом, либо с низким – и их коэффициент продуктивности в подталкивании человечества в ад перестал компенсироваться умными людьми. Даже как-то обидно: погибнуть не от суперзлодея с холодным умом, а от кретина, который убил тебя просто потому, что ему было любопытно, а как это работает.