Пресс-релизы

Искусственный интеллект обещает в перспективе совершить переворот в целом ряде отраслей, но вместе с колоссальными перспективами появляются и новые риски. В своем отчете Allianz рассмотрел новые сценарии убытков и ответственности.

- Технологии на основе искусственного интеллекта повысят уязвимость компаний для кибер-атак и технических сбоев, что приведет к более крупномасштабным убыткам и нарушениям в работе.

- Компании столкнутся с трудностями, связанными с переходом ответственности от человека к машине и ее производителю. Необходима новая концепция риск-менеджмента, учитывающая рост убытков, вызванных использованием искусственного интеллекта.

- Риск-менеджмент – ключевой инструмент, способный максимизировать чистую выгоду от использования искусственного интеллекта. При этом критически важными аспектами для выявления угроз становятся доступность программных средств, безопасность, учет, ответственность и этические вопросы.

- Индустрия страхования одной из первых начала использовать технологии на основе искусственного интеллекта в целях автоматизации повторяющихся процессов, придания импульса анализу рисков и улучшения взаимодействия с клиентами.

Чат-боты, автономные роботы-автомобили и связанные машины на цифровых производствах предвестники недалекого будущего: широкое применение технологий искусственного интеллекта дает компаниям множество преимуществ, таких как повышение эффективности, снижение количества повторяющихся задач и улучшение качества обслуживания клиентов. В то же время, если эти технологии попадут не в те руки, потенциальные угрозы смогут легко уравновесить столь значительные преимущества. По мере того, как общество и экономика становятся все более взаимосвязанными, растет и уязвимость перед кибер-атаками или техническими сбоями, равно как и вероятность крупномасштабных нарушений в работе, сопряженная с колоссальными финансовыми убытками. Компаниям также придется столкнуться с новыми сценариями возникновения обязательств, поскольку ответственность за принятие решений переходит от человека к машине и ее производителю.

В своем новом отчете «Взлет искусственного интеллекта: будущие перспективы и возникающие риски» страховая компания Allianz выявила ключевые преимущества и вызовы, которые несет с собой все более широкое применение искусственного интеллекта в обществе и промышленности, включая индустрию страхования. Искусственный интеллект, также называемый машинным обучением – это, по сути, программное средство, способное думать и учиться, как человек.

«Искусственный интеллект несет как потенциальные преимущества, так и вызовы во многих областях: экономика, политика, мобильность, здравоохранение, оборона и охрана окружающей среды. Чтобы максимизировать преимущества внедрения продвинутых технологий на основе искусственного интеллекта в обществе, потребуются новые стратегии управления рисками», – говорит Михаэль Брух, возглавляющий Департамент анализа новых тенденций AGCS.

Сегодня «слабые» или базовые формы искусственного интеллекта способны выполнять конкретные задачи. Будущие же поколения технологий на основе так называемого «сильного» искусственного интеллекта смогут решать более сложные проблемы и осуществлять комплексные операции. Искусственный интеллект начинает применяться практически в каждой отрасли – от чат-ботов, предлагающих финансовые консультации, до технологий, помогающих врачам в диагностике рака. Искусственный интеллект применяется для управления автономными автомобилям, прогнозирования погоды, осуществления финансовых операций или для мониторинга и управления промышленными машинами. По мнению Accenture, к 2035 году искусственный интеллект может обеспечить увеличение годового экономического роста 12 развитых стран в два раза [1].

Но вместе с этой потенциальной выгодой появляются и риски. Два разных лица новых технологий, таких как искусственный интеллект, иллюстрируют кибер-риски, которые являются одними из самых больших рисков для компаний согласно Барометру рисков Allianz 2018 года: программное обеспечение на основе искусственного интеллекта может снизить кибер-риски для компаний путем повышения качества выявления атак, но может также и увеличить их, если хакеры получат контроль над системами, машинами или транспортными средствами. Искусственный интеллект может проложить путь более серьезным и более целенаправленным инцидентам в области кибер-безопасности, снижая расходы на организацию атак. Одна и та же хакерская атака или ошибка программирования может быть повторена на множестве машин. Уже подсчитано, что крупная глобальная кибер-атака может принести убытки, превышающие $50 млрд [2], но даже 12-часовой перерыв в работе поставщика облачных услуг способен вызвать убытки на сумму около $850 млн [3].

Новые возникающие риски искусственного интеллекта

Чтобы выявить возникающие риски, связанные с искусственным интеллектом, Allianz сконцентрировался на пяти ключевых аспектах – доступности программного обеспечения, безопасности, учету, ответственности и этическим вопросам.

«При принятии надлежащих мер в каждой из этих сфер развитие и внедрение искусственного интеллекта наносит наименьший вред обществу. Превентивные меры, снижающие риски непреднамеренных последствий, чрезвычайно важны», – говорит Брух.

Например, в области безопасности ускоренное выведение на рынок систем на основе искусственного интеллекта может привести к их недостаточной или небрежной проверке на предмет соответствия, а она необходима для того, чтобы гарантировать установку безопасных, функциональных и защищенных от кибер-атак систем. Это, в свою очередь, может привести к увеличению количества дефектной продукции и случаев ее отзыва.

Что же касается ответственности, системы на основе искусственного интеллекта могут в дальнейшем принять на себя многие решения, которые ранее были прерогативной человека, но по закону они не могут нести ответственность за эти решения. В целом ответственность за дефекты, которые наносят ущерб пользователям, несет производитель интеллектуальных систем или разработчик их программного обеспечения. Однако решения искусственного интеллекта, которые не связаны напрямую с дизайном или производством, но принимаются системой по причине интерпретации ею реальности, не будут иметь явно выраженного виновника, согласно действующему законодательству.

«Оставлять принятие решений судам может оказаться дорогим и неэффективным способом, если количество убытков, принесенных искусственным интеллектом, начнет расти, – говорит Брух. – Решить проблему недостаточной юридической ответственности может создание экспертных агентств или органов власти, которые разработают концепцию ответственности, в рамках которой разработчики, производители или продавцы продукции на основе искусственного интеллекта будут нести ограниченную гражданско-правовую ответственность».

Тем временем, страховщики будут играть ключевую роль в минимизации, управлении и передаче новых возникающих рисков, связанных с технологиями искусственного интеллекта. Чтобы в равной степени защитить и потребителей, и компании, традиционные покрытия потребуется скорректировать. Страхование должно будет лучше нейтрализовывать определенные риски для компаний, такие как кибер-атаки, перерыв в производстве, отзыв продукции и репутационный ущерб. Скорее всего, будут приняты новые модели страхования ответственности, например, в таких областях, как автономные автомобили. Это повысит давление на производителей и продавцов программных средств и снизит прямую ответственность потребителей.

Страховщики одними из первых начали использовать искусственный интеллект

Индустрия страхования начала пользоваться машинным обучением на раннем этапе, поскольку в ней анализируются большие объемы данных и много повторяющихся процессов.

«У искусственного интеллекта колоссальный потенциал по улучшению цепочки создания ценности в страховании. Он поможет автоматизировать страховые процессы, чтобы обеспечить нам лучшее качество обслуживания клиентов. Благодаря этому оформление полисов и урегулирование убытков станет быстрее и эффективнее», – объясняет Брух.

Придав импульс анализу данных, искусственный интеллект также обеспечит страховщикам и их клиентам значительно лучшее понимание их рисков, так чтобы их можно было более эффективно снижать и разрабатывать новые страховые решения. Например, аналитика на основе искусственного интеллекта может помочь компаниям лучше понимать кибер-риски и улучшать защиту от них. В то же время, технологии помогут страховщикам выявлять масштабируемые кибер-риски. Наконец, но не в последнюю очередь, искусственный интеллект изменит образ взаимодействия страховщиков со своими клиентами, обеспечив их обслуживание в круглосуточном режиме.

[1] Accenture, Why Artificial Intelligence is the Future of Growth, January 2017
[2] Lloyd’s, Extreme cyber-attack could cost as much as Superstorm Sandy, July, 2017
[3] Allianz Risk Barometer 2018, January 2018