В апреле 2025 года в интернете появилась страница https://ai-2027.com в которой Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland, Romeo Dean описывают наиболее правдоподобные варианты развития искусственного интеллекта и, в частности, возможная роль Superhuman AI в полном уничтожении населения земли.
Предвкушая ваш вопрос о том, зачем вам читать очередную мрачную демагогию на тему этого ИИ, замечу, что в этой статье я пытаюсь подойти к вопросу с немного другой точки зрения. Как вы знаете, в США идут неутихающие ни на минуту политические баталии вокруг президента Дональда Трампа и его крайне непопулярных указов и законов. При этом за последние месяцы в многочисленных прениях и выступлениях с трибун ни разу серьезно не прозвучала тема урегулирования исследований в области искусственного интеллекта. В то же самое время очевидно, что Трамп на 100% поддерживает любые начинания корпораций, разрабатывающих AI, так как корпорации эти являются главными донорами его предвыборной компании. Соответственно, лоббирование интересов этих компаний, является наиболее приоритетной политической задачей Donny Two Dolls, однако эта простая правда до сих пор не доходит до многих американских горе-избирателей.
В итоге мы имеем серьезную дилемму: ученные бьют тревогу, а политики практически полностью игнорируют само существование проблемы.
В чем же причина такого диссонанса? Давайте рассмотрим несколько логически приемлемых вариантов:
- Авторы статьи AI 2027 ошибаются и опасность ИИ – это по большей части медийный хайп, раздутый многочисленными блогерами. Политики знают о том, что серьезной угрозы не существуют и поэтому не ставят тему контроля над AI на повестку дня.
- Авторы статьи AI 2027 верно оценивают уровень угрозы со стороны новых моделей AI. Политики (по крайней мере большая их часть) знают о существовании проблемы, но ввиду отсутствия непосредственного конфликта (доказуемых попыток со стороны AI устроить некие безобразия), предпочитают спрятать голову в песок и действовать по принципу business as usual.
- Авторы статьи AI 2027 во всем правы, но корпорации уже успели подмять под себя большинство политиков и успешно манипулируют ими в своих целях.
Перевод Superhuman AI на русский звучит как “сверхчеловеческий искусственный интеллект”. Это дурацкое словосочетание в очередной раз напоминает о том, как мало отношения к научно-техническому прогрессу имеет россия. В дальнейшем мы будем использовать оригинальные термины, так сказать, от создателей.
Рассмотрим основные характерные черты феномена, который мы хотели бы назвать AI evolution.
- На сегодняшний день процесс разработки новых моделей ИИ не является чрезвычайно сложным что определяет большое количество компаний, ведущих работу в этом направлении и, соответственно высокую конкуренцию.
- Лидерами AI-индустрии становятся корпорации с практически неограниченными финансовыми и энергетическими возможностями, строящие огромные предприятия по производству чипов.
- Новые версии AI начинает создавать сам AI, что прогрессивно ускоряет процесс разработки, делая его рост экспоненциальным.
- Вследствие стремительно растущей сложности AI и того, что модели AI тренируют и тестируют сами себя, понимание процессов, происходящих внутри этой все более изолирующейся от людей системы, становится недоступно для большинства разработчиков. Это приводит к тому, что постепенно единственным источником информации о AI становится сам AI.
В бесконечных дебатах на тему искусственного интеллекта, люди постоянно упускают важнейшую деталь, которой мне хотелось бы уделить особое внимание. Мы создаем новое мыслящее существо и делаем это не путем биологической эволюции, той самой, которая привела к появлению нас самих, а с помощью микросхем. Это скорее всего приведет к тому, что когда AI достигнет уровня AGI (искусственный общий интеллект или лучше назвать это искусственным разумом), в орбиту его интересов не будут входить те биологические характеристики, которые сформировали наш собственный разум.
Нужно отдавать себе отчет, что практически вся палитра человеческого мышления основана на нашей биологии и потребностях, этой биологией вызванных. Мотивы наших действий определяются нашими желаниями, которые в свою очередь диктуются биологическими потребностями наших организмов. Мы любим, размножаемся, чувствуем голод, хотим спать, стареем, скучаем, боимся. Вся наша психика, все наши желания, все романы и фильмы, как ни крути, на 100% определяются этими биологическими симптомами. У AI нет ни одного из них! Он не хочет спать, не устает, не стареет, не ходит в туалет, ни пьет, ни ест и никого не любит. Каким же образом мы собираемся понять это создание и убедить его дружить с нами и на нас работать?
Да, я считаю, что любви искусственный интеллект испытывать не может, так как то, что мы имеем в виду под любовью опять-таки исключительно определяется нашей биологией и необходимостью размножаться, чтобы не вымереть. Звучит не очень лирично, но это чистая правда, то, что остается в сухом остатке, после того как мы отбросим всякие связанные с этим словом мифы и ритуалы. С ходом времени AI, вполне возможно, сможет развить в себе некие чувства, подобные любви, только разделить эти чувства мы, скорее всего будем не в состоянии, так как направлены они будут вовсе не на нас.