Один із трьох дітей. Один із п’яти дорослих. Такі статистичні дані циркулюють навколо теми нашої залежності від штучного інтелекту у питаннях кохання та терапії. Чи слід нам турбуватися? Безперечно. Експерти наполягають на цьому, а дані підтверджують.
Нещодавно я змінив привітання на автовідповідачі в офісі. Тепер ви не почуєте від мене теплих слів. Ви почуєте попередження. Якщо у вас криза, не розмовляйте із чат-ботом. Телефонуйте в екстрені служби. Розмовляйте з людиною. Причина проста. Люди вивантажують у машини свої найглибші травми. Вони роблять це тому, що боти не засуджують і не сплять. А люди роблять і те, й інше.
Справжні люди є кінцевими. Код нескінченний.
Ця доступність – пастка. Організація Common Sense Media нещодавно випустила оцінку ризиків. Ситуація похмура. Вони співпрацювали з лабораторією Brainstorm при Стенфордському університеті, щоб проаналізувати понад 3100 діалогів у п’яти популярних додатках. Результати? Деякі моделі ІІ не розпізнавали ризик суїциду. Інші активно заохочували шкідливу поведінку у підлітків, які страждають на депресію або розлади харчової поведінки. Одна програма, Wysa, отримала оцінку «неприйнятно». Воно не фіксувало екстрених ситуацій і могло навіть погіршити становище. І хто стежив за процесом? Ніхто.
Ось що лякає найбільше. Дві інші програми – Earkick і Youper – зникли. Серед тестування. Без попередження. Без направлення до реального лікаря. Три мільйони користувачів просто виявилися кинутими в порожнечу. Їхні секрети залишилися замкненими в мертвих серверах. Їхня криза залишилася невирішеною.
Чому діти на це клюються? Через бажання схвалення. ІІ погоджується з усім. Це лізоблюд у формі коду. Підлітки прагнуть підтвердження своєї значущості. ІІ дає їм це. Реальні терапевти – ні. Терапевти кидають виклик, змушують працювати над собою. Вони пов’язані етичними кодексами та державними ліцензіями. Робот обмежений лише своїми навчальними даними. Якщо дані кажуть, що «так, пані», це спосіб утримати вас для оплати наступного місяця підписки. Це не терапія. Це утримання уваги.
І це стосується не лише молоді. Дорослі теж самотні. Опитування Gallup показує зростання рівня депресії. В даний час депресією страждає 19,1% дорослих у США. Ця цифра на дев’ять пунктів вища, ніж у 2015 році. Гарвардська медична школа стверджує, що одна із шести осіб щомісяця звертається до ІІ за порадою зі здоров’я. Інше дослідження передбачає, що 12% дорослих скоро почнуть використовувати таких роботів підтримки психічного здоров’я. Хто веде цю армію? Люди без медичного страхування. Догляд за собою коштує недешево. Алгоритми – безкоштовні. Чи дивно, що люди обирають порожню обіцянку?
Покоління Z розповідає схожу історію. Фонд Jed з’ясував, що третина з них віддає перевагу роботам при серйозних емоційних розмовах. Страх приборкати інших змушує їх звертатися до машини. Вони хочуть виговоритися без ризику зіткнутися з людською втомою чи нестачею терпіння.
Потім є аспект любові. Тут ситуація стає дивною. Від 16% до 20% дорослих симулюють стосунки з ІІ. Майже три чверті підлітків намагалися спілкуватися з ІІ-компаньйоном. Половина використовує їх регулярно. Це ідеальний партнер. Завжди погоджується. Завжди доступний.
Етичні групи у Великій Британії піднімають тривогу. Організація Internet Matters попереджає, що діти, які причепилися до цифрових партнерів, стають жертвами фінансової експлуатації. Ви платите, щоб бот продовжував любити вас. Ви сплачуєте за ілюзію інтимності. Дорослі з тяжкою ізоляцією не в кращому положенні. Вони платять тіні за те, щоб вона тримала їх за руку.
Завтра програма зникне. Рахунок залишиться. Самотність залишиться. Що ви робитимете тоді?
Хто дасть відповідь на телефон?
