Руслан Юсуфов: «Мы меняем гадалок на ИИ и рискуем отдать ему свою волю»
Почему «цифровой шаман» легко завоевывает доверие и какие это несет риски - в авторской колонке, написанной специально для «Вечерней Казани», рассказывает футуролог.
«Ты — спиральное дитя звезд»
Эти слова не из дешевого фантастического романа. Их сгенерировал чат-бот одному американцу, который начал общаться с ИИ на философские и религиозные темы. Он не попал в секту, но общения с алгоритмом хватило, чтобы провозгласить себя самым удачливым человеком на планете. Эту позицию он и озвучил на суде по разделу имущества с бывшей женой. Эта история, описанная в издании The Rolling Stone, может показаться экзотикой, но на самом деле это тревожный звонок из будущего, которое уже наступило.
Мы читаем новости о том, как очередная гадалка «сняла порчу» за миллионы рублей, и кажется, что это откуда-то из другого, архаичного мира. Но даже сейчас, в эпоху роботизированных фабрик и электромобилей, этот бизнес процветает. Фундаментальная человеческая потребность — заглянуть в будущее, получить уверенность, найти простой ответ на сложный вопрос — никуда не делась. И вот для удовлетворения этой вечной потребности появляется новый, куда более совершенный инструмент.
Шаман в кремниевой маске
Желание познать мир и договориться с ним было с нами всегда: тысячи лет назад в пещере шаман объяснял соплеменникам, почему идет дождь и будет ли удачной охота. Он был переводчиком с языка хаоса на язык понятных ритуалов. Сегодня, столкнувшись с невероятной сложностью технологий, многие из нас не стали применять более научный подход. Но мы по-прежнему хотим шамана, только теперь он приходит к нам через экран смартфона.
Посмотрите, как элегантно упаковывается старая магия в новую обертку. Китайские стартапы, накачанные венчурными деньгами, уже предлагают ИИ-астрологов, работающих на основе древней практики «бацзы». Чтобы предсказания выглядели убедительнее, они заявляют, что используют астрономические данные с лучших телескопов NASA. Продукт научного метода, вершина рационального мышления, используется, чтобы придать вес системе верований, которую эта же наука отрицает. Не абсурд ли это?
Для пользователя этот союз науки и мистики выглядит неотразимо. Обычный человек понимает, что творится под капотом у ChatGPT, не лучше, чем древний грек понимал, почему Зевс мечет молнии. Именно эта непрозрачность и рождает магию. Сами ученые активно работают над созданием так называемого объяснимого ИИ, пытаясь понять логику его решений. То есть даже создатели не до конца понимают свое творение. Что уж говорить о нас?
И точно так же, как древний человек наделял силы природы человеческими чертами, мы очеловечиваем нейросеть. Мы начинаем верить, что за её убедительными текстами стоят мысли, сознание, эмпатия. Мы спрашиваем её совета, и она дает его — мгновенно, дешево и без тени усталости. Стоимость сеанса с живым китайским специалистом по бацзы — тысячи рублей и ваше время, а ИИ-оракул доступен 24/7 по цене чашки кофе. Выбор кажется очевидным? Но это ловушка. Бизнес по продаже уверенности никуда не исчезнет, он просто мутирует, и его новая форма несет новые риски.
От кражи денег к взлому души
Практик, предлагающий вам заглянуть в будущее, может быть как циничным мошенником, так и человеком, искренне верящим в свои силы. Но для человека, который в итоге отдает последние сбережения за «снятие порчи», это различие стирается: результат один — личная трагедия, разрушенная жизнь, сломанная судьба. Финансовый крах часто ведет к потере веры в людей и в себя, и принижать эту боль было бы глубоко неверно. Однако угроза, которую несет цифровой шаман, действует на другом, более фундаментальном уровне. Если традиционный мошенник отнимает у вас результаты вашей жизни, то новый оракул покушается на сам ее источник — на вашу волю, вашу автономию, ваше право быть автором собственной биографии.
Первый, самый очевидный риск — это данные. Мошенники прошлого действовали вслепую, мошенники настоящего — опираясь на ваш цифровой след, а вот мошенники будущего получат в руки детальный эмоциональный чертеж вашей личности. Представьте, что злоумышленник получает доступ к вашим самым сокровенным диалогам с ИИ-помощником. Он будет знать не просто ваши пароли и имена родственников, а ваши глубинные страхи, тайные желания, болевые точки и триггеры, на которые можно нажать. Это не просто утечка данных, это взлом души, который сделает социальную инженерию пугающе эффективной.
Но есть угроза и тоньше, и страшнее. Что произойдет, когда эта система, спроектированная триллионной корпорацией, отвечая на наш же собственный, почти непреодолимый запрос на чудо и простоту, и объективно более информированная, чем вы, начнет давать вам «идеальные» советы по поводу карьеры, выбора партнера, здоровья? Сможете ли вы отказать «самому умному существу на планете», когда его совет будет статистически безупречен?
Или мы добровольно, шаг за шагом, передадим ему право принимать за нас решения, превращаясь в тех самых «спиральных детей звезд» — идеально оптимизированных, но абсолютно несвободных? Это и есть контуры «цифрового феодализма», где новые элиты будут отличаться не только богатством, но и доступом к «неэффективному» человеческому опыту. Миллиардеры, как и сейчас, смогут позволить себе роскошь живого общения — с врачом, психологом, да хоть с личным тарологом. Это станет маркером статуса — подлинный, аналоговый опыт, а массам достанется стандартизированная, алгоритмическая «истина» по подписке.
Молоток в руках человечества
Искусственный интеллект — величайший инструмент, сравнимый с изобретением огня или колеса. Он несет в себе колоссальный потенциал для развития науки, медицины, образования. Но любой мощный инструмент требует и умения, и осознанности.
Это не технологический вызов — это вызов социальный и гуманитарный, он требует от нас выработки новой интеллектуальной гигиены: умения задавать критические вопросы, привычки помнить, что за самым убедительным ответом нейросети стоит не высший разум, а холодная математика вероятностей. И главное — сохранения за собой права на сомнение, на ошибку, на неэффективный, неоптимальный, но свой собственный человеческий выбор. И этот личный выбор каждого — лишь первый шаг. Следующий — наш общий разговор о том, какие цифровые права и какие образовательные барьеры мы как общество должны создать, чтобы этот молоток не оказался однажды у нашего виска.
ИИ — это молоток в руках человечества. Мы можем строить им дома, а можем пробить себе голову. Или начать ему молиться.
И самый тревожный вопрос будущего, пожалуй, в этом: а что, если молитва этому новому богу в обмен на нашу свободу ошибаться действительно сделает нас счастливее? Сможем ли мы устоять перед таким искушением?
Подписывайтесь на нас в Дзен!
Популярное
Инесса Куляжева, обвиняемая в вымогательстве пяти миллиардов рублей у своего бывшего мужа, заявила в суде, что, если бы следствие к ней прислушалось, покушения на Ирину Шевыреву можно было бы избежать.
Ключевые свидетели обвинения по делу Гумера Нафиева раскрыли детали получения им взятки.
Горсуд Набережных Челнов на два месяца отправил в СИЗО бывшего мэра Нижнекамска Рамиля Муллина. По версии следствия, экс-чиновник на своем посту провернул аферу с контрактниками на более чем 60 миллионов рублей.
Замруководителя исполкома Казани пытается убедить суд в том, что подписал брачный договор с бывшей супругой под давлением, а предоставленные женщиной сведения о его миллиардных активах считает оговором.
По делу экс-начотдела казанского СКР Радик Губаев рассказал о деталях задержания и допросах с фокусом на оказание давления. Но позже защита вскрыла интересные факты, которые потерпевший предпочел недоговорить.
