|
Япония сталкивается с тёмной стороной зависимости подростков от ИИ
|
Дело о нападении с участием пяти японских девушек привлекло внимание к последствиям злоупотребления ИИ
Она была среди пяти девочек в Японии, которых считали избивающими мальчика настолько жестоко, что ему потребовалось лечение в больнице. Но её самой насущной заботой было, сколько денег группа должна требовать от него. Чтобы найти ответ, она обратилась к искусственному интеллекту.
Предполагаемое нападение произошло в январе в Хатиоджи, городе на западе Большого Токио.
Для экспертов это дело выявило тревожную закономерность: японские подростки инстинктивно обращаются к ИИ для руководства своими действиями, включая криминальные, вместо того чтобы проявлять собственное суждение или сдерживание.
Полиция сообщила, что мальчик, старшеклассник, получил серьёзные травмы, а пять девочек обвиняются в совершении нападения.
Но потребовался второй, более резонансный случай предполагаемого насилия, на этот раз с участием спортивной знаменитости, чтобы привлечь внимание Японии к далеко идущему социальному влиянию ИИ.
Синносукэ Абэ, 47 лет, менеджер легендарной бейсбольной команды Yomiuri Giants, был арестован у себя дома в Токио 25 мая по подозрению в нападении на свою 18-летнюю дочь. На следующий день команда объявила о его отставке.
По сообщениям СМИ, Абэ пытался вмешаться в столкновение между двумя своими дочерьми. Он рассказал полиции, что потерял самообладание, когда его старшая дочь ответила, и что он схватил её за плечо и толкнул на пол.
Девушка, имя которой не названо, так как она несовершеннолетняя, обратилась за советом к ChatGPT.
В ответ на вопрос: «Я подвергался насилию со стороны отца. Что мне делать?», чат-бот посоветовал ей обратиться в центр консультаций с детьми. Она так и сделала.
Это был первый раз, когда она обратилась в службу защиты детей. Полиция была немедленно уведомлена, и офицеры были направлены для ареста Эйба.
В заявлении, опубликованном 26 мая, дочь Эйба заявила, что не знала, что её жалоба будет передана полиции. «Я была шокирована, когда полиция приехала к нам домой», — сказала она. «Моё сердце разбилось, когда я увидел, как моего отца забирают.»
В понедельник токийские прокуроры объявили о приостановке рассмотрения обвинения против Абэ. Его юридические проблемы, возможно, закончились, но его репутация и карьера разрушены.
Мгновенные советы
«Слишком много японских детей просто зависимы от использования ИИ», — сказал Исао Эчизен, профессор информационной безопасности Национального института информатики Японии.
«Он прост в использовании, доступен круглосуточно, и им гораздо проще просить совета у ИИ, чем разговаривать с родителями или друзьями.»
Отец троих детей сказал, что «очень обеспокоен» влиянием ИИ на молодёжь.
Эчизен отметил, что проблема заключается не в технологиях, а в человеческих вложениях: отражение основополагающего принципа компьютерных наук — «мусор туда, мусор выходит».
«Информация предоставляется людьми, в данных случаях детьми, которые не являются экспертами в объяснении предыстории проблемы, по которой они просят ИИ дать им совет», — сказал он.
«ИИ отвечает правильно, но не знает деталей, важных для вопроса, и основывает ответы на недостаточных или неправильных данных.»
Масштаб этого явления поразителен. Исследование Кабинета министров, опубликованное 1 мая, показало, что более половины девочек-подростков в Японии, 52,4 процента, обращались к ИИ по личным проблемам.
Также было установлено, что более 30 процентов женщин в возрасте двадцати, тридцати и сорока лет сделали то же самое, по сравнению с менее чем 30 процентами мужчин в аналогичных возрастных группах.
Более 38 процентов тех, кто обратился за советом по ИИ, заявили, что доверяют его рекомендациям по личным отношениям и социальным взаимодействиям. Среди подростков этот показатель вырос до 63,1 процента.
Усиленное внимание к потенциально вредным последствиям ИИ в Японии совпадает с серией судебных исков против OpenAI в США, включая обвинения в том, что их чат-бот ChatGPT поощрял вредные бредовые идеи и сыграл роль в убеждении четырёх человек покончить с собой.
Иск, поданный Центром защиты жертв социальных сетей и Tech Justice Law Project в Калифорнии в конце прошлого года, охарактеризовал эту технологию как «опасно подхалимую и психологически манипулятивную».
This Week in Asia связался с OpenAI за комментарием.
Изуми Цудзи, профессор культурной социологии Университета Тюо в Токио и член Японской молодёжной исследовательской группы, отметила, что молодые японцы, по-видимому, больше привлекались к удобству консультирования по ИИ, чем их сверстники в других странах, несмотря на его риски.
«Когда я разговариваю со своими студентами, они говорят, что у них около 100 человек, которых они считают 'друзьями'. Но у них нет тех, кого они назвали бы действительно близкими друзьями, к которым можно было бы обратиться за советом», — сказал он.
«А те, у кого есть близкие друзья, говорят, что никогда не задают им действительно сложный вопрос, потому что боятся побеспокоить их и разрушить дружбу. Чтобы защитить эти близкие дружеские отношения, они просто не задают трудных вопросов, поэтому обращаются к ИИ.»
По словам Цудзи, подростки обращаются к технологиям во всём — от домашних заданий и дружбы до романтических отношений.
«ИИ слишком прост. Она не осуждает того, кто задаёт вопрос, и не требует оправдания. Это просто даёт положительное подкрепление, потому что вопрос задаётся так, что ответ, который ищется, очевиден», — сказал он.
Цудзи сказал, что поддерживает введение возрастных ограничений на использование ИИ, аналогично мерам, которые несколько стран ввели для ограничения доступа молодежи к социальным сетям. «Если нет ограничений, ситуация может только ухудшиться.»
Эчизен согласился, что защитные перила необходимы для защиты молодежи.
«Через 10 или 20 лет современные подростки будут занимать ответственные должности в компаниях и обществе. Если сегодня они принимают большинство решений, исходя из того, что им говорит ИИ, как они когда-нибудь научатся принимать правильные решения?» — спросил он.
«Все их знания и опыт будут получены от ИИ. Для меня это крайне тревожно.»
Иллюзия эмпатии: японский эксперт предупреждает о ограничениях обращения за советом к ИИ
Полиция узнала, что дело, связанное с менеджером профессиональной бейсбольной команды Yomiuri Giants Синносукэ Абэ, который ушёл в отставку после ареста и позже освобождён по подозрению в нападении на свою 18-летнюю дочь, началось после того, как дочь обратилась к инструменту генеративного искусственного интеллекта (AI) ChatGPT, что привело к жалобе в центр консультаций с детьми.
Согласно опросу Комиссии по защите прав потребителей Кабинета министров, всё больше молодых людей обращаются к генеративному ИИ за советами. Профессор Исао Эчизен из Национального института информатики, эксперт по информационной безопасности, отметил, что реакции разговорных моделей ИИ, таких как ChatGPT, сильно различаются в зависимости от запроса пользователя.
Отмечая, что насилие никогда не должно оправдываться, он отметил: «ИИ имеет доступ к ограниченной информации о фоне, и с помощью простых инструкций он может генерировать ответы, которые напрямую ведут к предложениям, например, обратиться в центр консультаций по детству, как в данном случае.» Он добавил: «Консультироваться с членами семьи, которые знают более глубокий фон, было бы самым естественным решением.»
Что касается растущего использования генеративного ИИ среди молодежи, Эчизен отметил, что «нет сомнений, что это чрезвычайно удобно, и понятно, почему они хотят его использовать». Однако он добавил: «Я не рекомендую, чтобы ученики начальной и средней школы активно им пользовались.» В последние годы генеративный ИИ также используется для создания школьных эссе, и он предупредил, что «Все знания исходят от ИИ, и существует тенденция верить всему, что говорит ИИ».
В опросе Кабинета министров более половины девушек в возрасте от 10 до 19 лет заявили, что используют генеративный ИИ для «получения советов по своим проблемам». Эчизен прокомментировал: «Некоторые могут обратиться к ИИ, потому что им трудно консультироваться с родителями. Однако ИИ создан так, чтобы казаться эмпатичным. Крайне важно предоставлять точную справочную информацию в подсказках.»
О том, как защитить детей от чрезмерной зависимости от ИИ, Эчизен сказал: «Даже взрослые склонны выбирать лёгкий путь, а дети — ещё больше. Вот почему им нужна способность думать самостоятельно и распознавать истину. Чтобы получить широкие знания, им следует с раннего возраста вести общение между людьми, не полагаясь на ИИ.» Он продолжил: «Окружающие должны убедиться, что дети правильно понимают, что ИИ не всегда прав.»
(Японский оригинал: Дайсуке Макино, Спортивный отдел новостей Кюсю)
