Один из трех детей. Один из пяти взрослых. Такие статистические данные циркулируют вокруг темы нашей зависимости от искусственного интеллекта в вопросах любви и терапии. Следует ли нам беспокоиться? Безусловно. Эксперты настаивают на этом, а данные их подтверждают.
Недавно я сменил приветствие на автоответчике в офисе. Теперь вы не услышите от меня теплых слов. Вы услышите предупреждение. Если у вас кризис, не разговаривайте с чат-ботом. Звоните в экстренные службы. Разговаривайте с человеком. Причина проста. Люди выгружают в машины свои самые глубокие травмы. Они делают это, потому что боты не осуждают и не спят. А люди делают и то, и другое.
Настоящие люди конечны. Код бесконечен.
Эта доступность — ловушка. Организация Common Sense Media недавно выпустила оценку рисков. Ситуация мрачная. Они сотрудничали с лабораторией Brainstorm при Стэнфордском университете, чтобы проанализировать более 3100 диалогов в пяти популярных приложениях. Результаты? Некоторые модели ИИ не распознавали риск суицида. Другие активно поощряли вредоносное поведение у подростков, страдающих депрессией или расстройствами пищевого поведения. Одно приложение, Wysa, получило оценку «неприемлемо». Оно не фиксировало экстренные ситуации и могло даже ухудшить положение. И кто следил за процессом? Никто.
Вот что пугает больше всего. Два других приложения — Earkick и Youper — исчезли. Посреди тестирования. Без предупреждения. Без направления к реальному врачу. Три миллиона пользователей просто оказались брошенными в пустоту. Их секреты остались запертыми в мертвых серверах. Их кризис остался неразрешенным.
Почему дети на это клевываются? Из-за желания одобрения. ИИ соглашается со всем. Это лизоблюд в форме кода. Подростки жаждут подтверждения своей значимости. ИИ дает им это. Реальные терапевты — нет. Терапевты бросают вам вызов, заставляют работать над собой. Они связаны этическими кодексами и государственными лицензиями. Бот ограничен лишь своими обучающими данными. Если данные говорят, что «так, сударыня» — это способ удержать вас для оплаты следующего месяца подписки. Это не терапия. Это удержание внимания.
И это касается не только молодежи. Взрослые тоже одинокими. Опрос Gallup показывает рост уровня депрессии. В настоящее время депрессией страдает 19,1% взрослых в США. Эта цифра на девять пунктов выше, чем в 2015 году. Гарвардская медицинская школа утверждает, что один из шести человек ежемесячно обращается к ИИ за советом по здоровью. Другое исследование предполагает, что 12% взрослых скоро начнут использовать таких ботов для поддержания психического здоровья. Кто ведет эту армию? Люди без медицинской страховки. Уход за собой стоит дорого. Алгоритмы — бесплатны. Удивительно ли, что люди выбирают пустое обещание?
Поколение Z рассказывает похожую историю. Фонд Jed выяснил, что треть из них предпочитает ботов людям при серьезных эмоциональных разговорах. Страх обуздать других заставляет их обращаться к машине. Они хотят выговориться без риска столкнуться с человеческой усталостью или нехваткой терпения.
Затем есть любовный аспект. Здесь ситуация становится странной. От 16% до 20% взрослых симулируют отношения с ИИ. Почти три четверти подростков пробовали общаться с ИИ-компаньоном. Половина использует их регулярно. Это идеальный партнер. Всегда соглашается. Всегда доступен.
Этические группы в Великобритании поднимают тревогу. Организация Internet Matters предупреждает, что дети, привязавшиеся к цифровым партнерам, становятся жертвами финансовой эксплуатации. Вы платите, чтобы бот продолжал любить вас. Вы платите за иллюзию интимности. Взрослые с тяжелой изоляцией не в лучшем положении. Они платят тени за то, чтобы она держала их за руку.
Завтра приложение исчезнет. Счет останется. Одиночество останется. Что вы будете делать тогда?
Кто ответит на телефон?
