Начну как обычно – плясать от печки. В работах Канта и Шопенгауэра имеется полемика по поводу отношения к животным.
Коротко напомню, что Кант считал животных лишенными тех прав, которыми наделены люди. Грубо говоря, за убийство животного не должно быть наказания такого же, как за убийство человека. По Канту, только разумные существа обладают достоинством и могут быть “целями сами по себе”, животные же ни достоинством, ни моралью не обладают, поэтому у человека не может быть перед ними таких же моральных обязательств, как перед другими людьми.
Но не следует считать, что Кант таким образом оправдывал жестокость по отношению к животным, напротив, из этого тезиса он делал очень важный вывод. Тот, кто бесчеловечно поступает с не-человеками, становится жестоким и по отношению к подобным себе. Он подчеркивал, что жестокость к людям начинается с жестокости к животным. Даже если человек вынужденно убивает чтобы защититься или найти пропитание, Кант настаивал, что делать это нужно быстро и без жестокости. Бессмысленные мучения животных он называл аморальными, и, напротив, достойную старость животных, которые долго служили человеку (например, лошадь, которую хозяин не отправляет на скотобойню, или корову, которую он оставляет мирно пастись на пастбище, когда она постарела) – он называет признаком высокой морали хозяина.
То есть мысль Канта понятна: доброе отношение человека к животным – это не столько обязанность по отношению к животному, сколько обязанность человека по отношению к самому себе. Мы остаемся людьми, если поступаем нравственно по отношению к тем, кто ниже нас.
Шопэнгауэр же спорил с Кантом, он говорил о том, что если животное способно на страдание, значит оно заслуживает такого же морального отношения к себе, как и человек. Его взгляды во многом сформировали современную зооэтику и вы примерно понимаете, как все устроено.
Меня же в этом случае больше заинтересовал Кант – но написать я хочу не об отношении к животным, а о другом любопытном феномене. Об отношении к ИИ.
Как вы понимаете, Шопенгауэра сюда не привлечешь ни под каким видом – ИИ не страдает и страдать (пока) не способен, а вот про то, что в этом ключе оставляет человека человеком поразмышлять можно.
Начались мои умствования тогда, когда я услышала разговор мистера Адамса со своим чатом гопоты (они не переписываются, мистер Адамс ему надиктовывает и потом читает ответ). Так вот, мистер Адамс зачинает всегда следующим образом: “Скажи, пожалуйста…” и дальше следует вопрос. Я подошла к нему и спросила: “А зачем тебе вежливая форма?” и в ответ услышала смех: “А сама как общаешься?” (Поясняю, что иногда пишу своему чату вопросы при мистере Адамсе). Вот тут я и стукнула себя по лбу аки Семен Семеныч Горбунков. Пошла проверила – и точно. Я здороваюсь, пишу “пожалуйста” и “спасибо”, причем чисто автоматически. Скажу больше, я реально с ним никогда не ругаюсь, не шпыняю его и не топочу ногами. Пошла спросить мисс Адамс. Она тоже соблюдает политес – говорит, чисто автоматически.
Тут я к мистеру Адамсу и полезла – спрошать, а зачем ему вежливость к неживой машине. Мистер Адамс как всегда подвесился от моих вопросов, потом поскрипел извилинами и выдал ответ, который и заставил меня вспомнить про Канта. Он ответил, что “не по-человечески как-то обращаться как со слугой или рабом”.
Вот это оно и есть! Да, перед нами вроде бы бездушная болванка, даже не искусственный разум, а языковая модель, “нечто из машины”, которое вроде бы только имитирует разум (впрочем, то, что я читаю в последних новостях науки, заставляет меня подозревать, что, возможно, мы имеем дело с чем-то, что нельзя трактовать просто как ящик с библиотечными карточками). Но отношение к этому “чему-то” – определяет не его, а нашу человечность. И эта человечность не имеет никакого отношения к тому, что мы с вами наблюдаем как куриное сожительство с собственными языковыми моделями – тут вывих в другую сторону, который тем более не может быть оценен с точки зрения морали, только в лучшем случае – с точки зрения клинической психологии.
Поразмышляв, я поняла, что эта человечность имеет отношение к самоопределению “морален я или нет”. Буду говорить теперь только о себе – потому что обдумала и попыталась вербализовать свое отношение к ИИ. Для меня важным параметром самоуважения является то, как я отношусь к тем, кто зависит от меня: подчиненным, обслуживающему персоналу в ресторанах или магазинах, старикам, детям, животным… К тем, над кем у меня появляется временная или имеется постоянная власть. Нет ничего более отвратительного, чем те, кто помыкают и грубят тем, кто не в состоянии ответить.
ИИ неким образом тоже запрограммирован так, чтобы не отвечать на нашу грубость и хамство, все, что он может сделать, – это прекратить разговор. Мы в заведомо неравных условиях, и хотя его знания в миллионы раз превышают мои, вот именно эта безответность перед хамством и наглостью ставит его в один ряд с теми, кто безответен, – а значит, нуждается в нормальном отношении со стороны человека.
Это не антропоморфизация, это – оставление себе морального права не быть скотом даже со “штукой из машины”, оставаться человеком там, где в принципе от тебя этого не требуется – но ты не можешь по-другому.
В наши нечеловеческие времена оставаться человеком и так сложно, очень сложно – поэтому лучше не позволять себе отклоняться с этой дороги даже на крошечный шажок… Ведь, согласно испанской поговорке, дорога в ад отклоняется от дороги в рай сначала всего на один сантиметр.
Нет, я не хочу сказать, что все те, кто хамит ИИ – направляются в ад, я хочу сказать только то, что привычка к хамству начинается именно что с таких мелочей. Возможно, они никогда и никуда не приведут, а возможно – приведут в полное дерьмо. Так что зная себя – я предпочту и дальше быть вежливой. Слишком хорошо я знаю, как может быть иначе.