Легенда российских шахмат Гарри Каспаров, который некогда сам был побежден суперкомпьютером, не считает искусственный интеллект угрозой. Он убежден, что реальную угрозу представляют люди. Об этом сообщает The Times of Israel.
«Мы живем в мире, где машины играют все более важную роль. Нравится вам это или нет, но это происходит. Нет никаких доказательств того, что машины нам угрожают. Настоящая опасность исходит не от роботов-убийц, а от людей, потому что у людей есть монополия на зло», — сказал он.
По словам Каспарова, настоящая угроза исходит от «диктаторских тоталитарных стран и террористов, которые будут использовать эту технологию, чтобы навредить нам».
В то время как роботы-убийцы в стиле Терминатора остаются предметом научной фантастики, правозащитные группы уже настаивают на международном законодательстве, которое ограничит использование так называемых «роботов-убийц», предсказывая, что ИИ изменит войну в ближайшие годы.
Каспарова при этом признает, что роботы могут занять рабочие места, занять вакансии людей — от заводских рабочих до водителей грузовиков.
«Без сомнения, это будет болезненно. Не хочу показаться бессердечным — люди потеряют работу. Но посмотрите на картину в целом. Чем более развиты технологии, тем больше выгоды для людей», — сказал он.
Каспаров также напомнил, что благодаря технологиям очень быстро были, в частности, разработаны вакцины против COVID-19.
ООН призывает ввести мораторий на использование искусственного интеллекта
Верховный комиссар ООН по правам человека заявила, что страны должны прямо запретить приложения ИИ, которые не соответствуют международному праву в области прав человека.
Глава ООН по правам человека Мишель Бачелет призывает к мораторию на использование технологий искусственного интеллекта, которые представляют серьезную опасность для прав человека, включая системы сканирования лиц, которые отслеживают людей в общественных местах.
К приложениям, которые следует запретить, относятся государственные системы «социальной оценки», которые оценивают людей по их поведению, и определенные инструменты на основе ИИ, которые разделяют людей на группы, например, по этнической принадлежности или полу.
«Технологии на основе искусственного интеллекта могут быть силой добра, но они также могут иметь негативные, даже катастрофические, последствия, если они используются без достаточного учета того, как они влияют на права человека», — говорится в заявлении Бачелет.
Ее комментарии сопровождались новым отчетом ООН, в котором исследуется, как страны и предприятия поспешили применить системы ИИ, которые влияют на жизнь и средства к существованию людей, не создавая надлежащих мер защиты для предотвращения дискриминации и других видов вреда.
«Дело не в отсутствии искусственного интеллекта», — сказала журналистам Пегги Хикс, директор по тематическому взаимодействию правозащитного центра, когда она представляла отчет в Женеве. — «Речь идет о признании того, что, если ИИ будет использоваться в этих — очень важных — функциональных областях, связанных с правами человека, это должно быть сделано правильно. И мы просто еще не создали структуру, которая обеспечивала бы это».
Бачелет не призывала к полному запрету технологии распознавания лиц, но сказал, что правительства должны прекратить сканирование функций людей в режиме реального времени, пока они не продемонстрируют, что технология точна, не допускает дискриминации и соответствует определенным стандартам конфиденциальности и защиты данных.
Хотя названия стран в отчете не упоминаются, Китай был среди стран, которые развернули технологию распознавания лиц, особенно для наблюдения в западном регионе Синьцзяну. Ключевые авторы отчета заявили, что наименование конкретных стран не входит в их полномочия и даже может быть контрпродуктивным.
«В китайском контексте, как и в других контекстах, мы обеспокоены прозрачностью и дискриминационными приложениями, которые адресованы конкретным сообществам», — сказал Хикс.
В отчете также высказываются опасения по поводу инструментов, которые пытаются определить эмоциональное и психическое состояние людей путем анализа их мимики или движений тела, заявив, что такие технологии подвержены предвзятости, неверной интерпретации и не имеют научной основы.
«Использование государственными властями систем распознавания эмоций, например для выделения лиц для задержания или ареста полицией или для оценки правдивости заявлений во время допросов, рискует подорвать права человека, такие как право на неприкосновенность частной жизни, свободу и справедливость», — говорится в сообщении.
Рекомендации отчета отражают взгляды многих политических лидеров на Западе, которые надеются задействовать экономический и социальный потенциал ИИ, одновременно устраняя растущую озабоченность по поводу надежности инструментов.
Европейские регулирующие органы уже предприняли шаги, чтобы обуздать наиболее рискованные приложения искусственного интеллекта. Предлагаемые правила, изложенные официальными лицами Европейского союза в этом году, будут запрещать некоторые виды использования ИИ, такие как сканирование черт лица в реальном времени, и жестко контролировать другие виды использования, которые могут угрожать безопасности или правам людей.
Администрация президента США Джо Байдена выразила аналогичную озабоченность, хотя еще не изложила подробный подход к этому вопросу. Недавно сформированная группа под названием Совет по торговле и технологиям, которую совместно возглавляют американские и европейские официальные лица, стремилась сотрудничать в разработке общих правил для ИИ и другой технической политики.
Усилия по ограничению наиболее рискованного использования ИИ были поддержаны Microsoft и другими технологическими гигантами США, которые надеются установить правила, влияющие на эту технологию.
Западные страны были в авангарде выражения озабоченности по поводу дискриминационного использования ИИ.
«Если вы думаете о том, как ИИ можно использовать дискриминационным образом или для дальнейшего усиления дискриминационных тенденций, это довольно страшно. Мы должны быть уверены, что этого не допустим», — сказала министр торговли США Джина Раймондо во время виртуальной конференции в июне.
Роботы на рынке: как искусственный интеллект становится на службу бизнесу
Поколение Z все чаще выбирает развитие собственного бизнеса вместо работы по найму: для них это способ реализовать собственные уникальные идеи и возможность принести пользу обществу. Однако теперь молодых предпринимателей сопровождает искусственный интеллект — он внедряется и в построение бизнес-моделей, и в работу предприятий. Может ли машина строить бизнес-структуры эффективнее человека и каким профессиям угрожает ИИ-замещение?
Бизнес-модель помогает охарактеризовать будущее предприятие и составить стратегию развития. Существует более пятидесяти вариантов таких моделей. Выбрав модель, предприниматель получает ответы на вопросы:
1) что организация продает и кому,
2) как устроена ее деятельность,
3) что получает в итоге.
Например, одна из самых известных бизнес-моделей называется Freemium и подразумевает обеспечение клиента бесплатной pro-версией на ограниченный срок.
В 2017 году американский журнал Fortune провел опрос трехсот руководителей фирм, чтобы оценить степень влияния искусственного интеллекта на развитие их бизнеса. Респондентов поделили на группы «лидеров» и «отстающих» — и именно вторые были против активного внедрения ИИ. «Лидеры» отметили, что кооперация с машинами принесла пользу (например, повышение прибыли отметил 51% респондентов, а увеличение способности адаптироваться к изменяющимся условиям рынка — 55%), и оптимистичнее оценили перспективы внедрения новых технологий. Около 90% из них ожидали прогресса в отклике клиентов, протекании бизнес-процессов и трансформации бизнес-моделей — по сравнению с 40% «отстающих».
ИИ в сфере медицины
Фармацевты, создающие новые препараты, теперь могут не столько самостоятельно придумывать продукты, сколько рассчитывать на фантазию ИИ. Венчурные инвесторы всё больше вкладываются в R&D сектор (Research & Development), который в значительной степени связан с разработкой искусственного интеллекта.
Во-первых, исходя из уже имеющихся исследований и знаний о взаимодействии молекул, машина может предсказать структуру белка в клетке, на которую будет направлено действие препарата.
Еще в прошлом году DeepMind, дочерняя компания Google, на соревновании для ученых представила нейросеть AlphaFold, способную достаточно точно предугадывать трехмерную структуру свернувшихся белков. В этом году компания поделилась подробным кодом и загрузила 350 000 результатов в базу данных EMBL-EBI. До конца года AlphaFold обещает до 130 миллионов результатов. Неплохо, учитывая, что за предшествующие сорок пять лет экспериментов удалось определить чуть больше 150 000 свернувшихся структур.
Это значит, что машины еще и делают науку более гуманной. Отпадает необходимость тестирования на мышах или кроликах, так как живая система все точнее воспроизводится машиной.
Во-вторых, после разработки молекулы препарата потребуется выпустить его в виде таблетки или сиропа. Перед ИИ ставятся такие задачи, как добавление вспомогательных веществ, мониторинг и улучшение процесса производства. На основе огромной базы данных о биохимических процессах организма компьютер с большой точностью может предсказать уровни растворимости и усвояемости лекарства. Например, у компании Tempus большая база данных по раковым опухолям — и она позиционирует себя как «амбассадора» точной ИИ-медицины.
Кроме того, стремительно развивается отрасль виртуальной медицинской помощи. Этот сектор в США занял первое место по количеству вложений и до 2024 года, скорее всего, будет только расти. Консультирование пациента прямо из дома при внезапной боли в желудке, мониторинг длительности сна и самочувствия на фоне приема лекарства делают медицинские услуги более персонализируемыми. Счета за лечение хронических заболеваний растут с каждым годом, поэтому их предотвращение только поможет государству. Значит ли это, что многие в скором времени останутся практически без работы?
ИИ в сфере транспорта
Самые громкие примеры активного внедрения ИИ в бизнес дали автомобильные компании Uber и Lyft. Уже в 2020 году половина команды Uber состояла из роботов: они подсказывают свободным водителям, где может появиться спрос, и позволяют таксистам общаться с пассажирами с помощью чата с готовыми вариантами ответа. Благодаря огромным массивам обрабатываемых данных Uber и Lyft обеспечивают ИИ «пищей» для определения оптимальных алгоритмов, выстраивающих маршрут, ценообразование и соответствие «клиент — водитель».
В UberEATS ИИ помогает ответить на вопросы бизнес-модели «Что продавать?» и «Кому продавать?». Он анализирует 320 000 ресторанов-партнеров в пятистах городах тридцати шести стран мира. Кроме того, Uber предлагает (как платно, так и бесплатно) разработанные их командой модели машинного обучения, которые другие предприятия могут использовать в своих процессах.
Дальнейшая цель этих гигантов — совершенствование беспилотных автомобилей, хотя вокруг них существует много спекуляций. Профессор программной инженерии Йоркского университета обозначил пять ключевых препятствий, которые до сих пор отделяют нас от массовой езды на беспилотниках. Как минимум проблема в том, что до сих пор не существует единого утвержденного способа обучения беспилотных автомобилей, поэтому у каждой новой компании может проявляться батч-эффект — неприменимость модели на данных, отличных от тех, на которых она обучалась.
ИИ в сфере туризма
ИИ помогает повышать клиентоориентированность туристического бизнеса. На вопрос «Как продавать?» здесь отвечают чат-боты, которыми, кажется, уже пользовались многие. Такие модели доводятся до совершенства через общение с клиентами, получая от них положительные и негативные отзывы через наводящие вопросы: «Решили ли Вашу проблему?», «Понятны ли были ответы?» и т. п.
ИИ в сфере туризма помогает генерировать алгоритмы для путешественников на основе их покупок и геолокации посещений, вновь отвечая на вопросы «Кому и что продавать?». Например, благодаря алгоритмам поиска подобия с другими пользователями клиент может высоко оценить предложенный отель в другом городе, даже если ни разу не был в этом отеле. Некоторые компании дорабатывают систему поиска жилья не только на основе типа помещения (например, лофт или гостиница), но и с учетом условий проживания: мебель, высота потолков и т. д.
В 2021 году платформа HotelTechAwards назвала победителем по внедрению ИИ компанию Avvio c моделью Allora. Avvio получила три награды: «Лучшее маркетинговое агентство для гостиниц» за продвижение партнеров, «Лучший метапоиск и рекламные технологии» за точный подбор необходимых пользователю мест и «Лучший дизайн гостиничного сайта» за удобный интерфейс. Этой моделью за двадцать лет пользовались самые разные клиенты — от приверженцев апартаментов в террасных домах Лондона до постоянных посетителей Marriott Hotels.
Казалось бы, можно уже сейчас заменить туристических агентов роботами, но компании не спешат увольнять сотрудников. Живое общение с клиентами необходимо для обсуждения общего плана поездки, организации нестандартного времени заезда и отъезда или же запасного плана в случае непредвиденной отмены поездки. Чем не пример гармоничного сосуществования человека и машины?
Какие навыки уже имеются у ИИ
Прогноз и классификация. ИИ способен строить точные прогнозы, исходя из имеющихся данных, и классифицировать группы людей по их потребностям. Это позволяет ему оптимизировать ценообразование и выявлять предрасположенности потребителей. ИИ-алгоритмы помогают с таргетированием рекламы (однако преградой для развития в этой области может стать законодательство об ограничении доступа к персональным данным) и в составлении рекомендаций по лечению. Уже сейчас многие руководители получают сводку о клиентах, находящихся на грани разрыва договора, или о работниках, которые недовольны своей работой. Такая аналитика поможет подобрать «уникальное предложение», которое с высокой вероятностью улучшит отношение клиента к компании или же «посоветует» руководителю поговорить с сотрудником о возможности сменить позицию.
Навык выполнения структурированных задач. Алгоритмы работают со структурированными цифровыми задачами, которые имеют повторяющуюся последовательность и работают на основе заданных правил. Поэтому с их помощью компьютеры могут выявлять несоответствующие данные или выдавать решение по конкретному случаю в соответствии с заданным порядком. Например, они могут находить неточности в судебных документах.
Генерация стандартных ответов также соответствует определенным правилам. Уже сейчас почтовые сервисы предлагают варианты ответа на полученное письмо, а голосовые роботы-ассистенты помогают записаться к врачу. Аналогично можно автоматически одобрять или отменять транзакции.
Навык планирования и оптимизации. Еще одна сфера, подвластная ИИ, — планирование и оптимизация операционной деятельности. Это и прогнозирование спроса (его используют многие ритейлеры для оптимизации поставки продуктов), и предсказание трендов для более успешного выхода на рынок, и оптимизация бизнес-процесса с учетом непредвиденных ситуаций (например, в случае задержки поставки).
Какие профессии скоро будут вытеснены ИИ
Вероятно, роботизация в первую очередь коснется тех профессий, где социальный фактор играет минимальную роль, а задачи жестко структурированы:
- специалисты клиентской службы,
- маркетологи,
- специалисты по финансовому планированию,
- переводчики,
- фармацевты.
Кого не сможет заменить ИИ
В 2016 году китайский инженер Эндрю Ын объявил в твиттере, что точность распознавания речи компьютерами повысится до 99% — сегодня эта цифра почти достигнута. Например, голосовой Google-ассистент научился опознавать медицинские названия лекарств с точностью 91,8%. В 2020 году около 70% жителей США пользовались умными колонками от Amazon.
Значит ли это, что теперь голосовые роботы-помощники появятся во всех компаниях? И да, и нет. Решение стандартных задач, конечно, можно переложить на машину, однако периодически возникают ситуации, когда нам очень уж хочется поговорить с живым сотрудником, хотя робот настойчиво предлагает нам нажать следующую клавишу.
Кроме того, задачи работников многих специальностей не укладываются в простые алгоритмы, некоторые же подразумевают сочетание монотонных (то есть вполне программируемых) операций и soft skills, внимательного общения. Поэтому во многих профессиях будет существовать симбиоз машины и человека.
Один из ведущих предпринимателей в области ИИ Ли Кайфу в книге «Сверхдержавы искусственного интеллекта» делает особый акцент на чувствах человека. Пройдя лечение от злокачественной опухоли, он осознал, какую ценность представляет собой возможность делиться своей любовью с другими: «Не существует алгоритма, который смог бы сделать для моего выздоровления то, что сделала моя семья».
Поэтому для графика с прогнозом исчезновения профессий Ли выбрал оси «сострадание» и «креативность — оптимизация». По его мнению, ИИ заменит человека только в сферах, которые не требуют ни сострадания, ни творчества. Во всех других областях нас ждут различные варианты симбиоза машин и человека.
Будущее разделение труда между человеком и ИИ, по мнению Ли Кайфу, на основе необходимости сострадания (ось Y) и креативности/стратегии/оптимизации (ось Х). Скриншот TED Talk Ли Кайфу, август 2018
Профессии, для которых важен эмоциональный контакт и креативность, не могут быть заменены компьютерными алгоритмами. В сектор с преобладанием роли человека (правый верхний) попали, например, такие бизнес-специальности:
- директор по рекламе и маркетингу,
- эксперт по слиянию компаний,
- CEO.
То есть те, кто одновременно умеют структурировано мыслить и взаимодействовать с людьми.
В часть, где в постоянную работу человека будет включен ИИ (левый верхний), Ли отнес:
- учителей,
- экскурсоводов,
- организаторов мероприятий,
- психологов.
Компьютер будет выполнять аналитическую часть, а человек займется эмоциональной частью коммуникации.
Последний сектор, где нашлось место человеку (правый нижний), поровну разделяет рабочий процесс. Сюда относятся:
- ученые, которые постоянно работают с базами данных и уже полностью автоматизировали некоторые ручные процессы;
- люди творческих профессий, которым ИИ может помогать с подборкой актуальных трендов;
- экономисты.
Профессии, которые полностью автоматизируются (левый нижний сектор):
- врач-гематолог, чья задача заключается в оценке анализов крови;
- мойщик посуды (к которому, вероятно, можно добавить доставщика еды, сборщика продуктов в dark kitchens и даже шеф-повара в сетях быстрого питания);
- работники службы поддержки клиентов.
Примеры профессий в модели будущего разделения труда между человеком и ИИ, предложенной Ли Кайфу. Скриншот TED Talk Ли Кайфу, август 2018
Несмотря на соблазнительность делегирования всех повторяющихся задач алгоритмам, сложные и эмоционально окрашенные задачи требуют человеческого участия.
Однако, помимо всего прочего, человеку нужно будет еще обслуживать ИИ: обрабатывать исключения, выдаваемые машиной, контролировать процесс.
Что мешает ИИ заменить ряд профессий
ИИ не решает проблему целиком. Пока не существует «общего ИИ», машинам доступны только частичные решения некоторых задач: беспилотные автомобили не справятся на незнакомых им дорогах, отвечать на вопросы роботы могут только по строго расписанным алгоритмам и т. д.
Нехватка бюджета. Внедрение технологий требует значительных вложений. Если молодые стартапы готовы подстроить бизнес-модели под новые технические требования, то не каждый инвестор и клиент готовы принять меняющуюся реальность. Конечно, в Китае венчурное инвестирование обеспечивает сферу ИИ невероятным количеством средств, но такая ситуация наблюдается далеко не во всех странах. И пока затраты компаний на внедрение и обучение машин в дополнение к сотрудникам превышают прибыль от нейросетей — не все готовы пойти по этому пути.
ИИ не подвластны многогранные задачи. Если робот, внедренный в приложение брокера, может с легкостью предложить акции для первоначальных покупок, то с многочисленными типами активов ему будет справиться сложнее. Практически каждый клиент уникален — начиная финансовым положением, заканчивая альтернативами стандартной финансовой активности. Кроме того, фондовым рынком управляет не только математика, но и психология инвесторов. Поэтому традиционные бизнес-модели финансового консультирования пока никто не пересматривает.
Риск переобучения. Несмотря на преимущества обладания огромными базами данных, предсказание точных вариантов не всегда звучит хорошо. Например, наиболее известный ИИ в медицине — IBM Watson — может качественно сопоставить жалобы с диагнозом, однако он склонен выдавать достаточно редкие и специфичные заболевания, хотя у человека может быть элементарная ангина. В итоге случается, что ни одно подобранное компьютером решение не помогает поставить пациенту правильный диагноз.
Батч-эффект. Алгоритмы зачастую заточены под слишком узкие задачи и «ломаются» при внедрении в работу крупной компании. В статье из журнала Nature, написанной коллективом авторов под руководством Майкла Робертса, освещаются основные недостатки использования ИИ при диагностике COVID-19. С марта по ноябрь 2020-го было опубликовано огромное количество статей по этой проблеме, однако из-за батч-эффекта и невозможности применить одну и ту же технологию на разном оборудовании предложенные решения так и не вошли в массовое использование.
Незаменимость эмпатии. Вероятно, человекоориентированные профессии, в которых необходимы эмпатия и прямой контакт, никогда не утратят своей актуальности. По этой причине бизнес-модели многих психологических компаний остаются завязанными на людях — хотя у некоторых футурологов были предположения, что психологов заменят роботы. Действительно, существует множество приложений по когнитивно-поведенческой терапии, расстройству пищевого поведения, однако наша внутренняя природа не готова решать все свои внутренние проблемы по алгоритмам.
Развитие технологий способствует и ускорению, и улучшению качества некоторых процессов. Но для замены традиционных бизнес-моделей предпринимателям нужно придумывать стратегии, чтобы внедрять технологии в работу предприятий, эксперты должны делиться своими знаниями с массами, а сотрудники компаний — быть открытыми к новым знаниям и навыкам.
Но даже при том, что команды многих предприятий с энтузиазмом принимают потенциал ИИ в деле расширения человеческих возможностей, потребуется значительное количество экспериментов, чтобы это стало реальным. Хотя есть и такие профессии, которые ИИ, возможно, не заменит никогда.
