Банковский и финансовый сектор должен разработать систему совместной ответственности со своими партнерами по искусственному интеллекту для борьбы с мошенничеством и атаками программ-вымогателей, заявил исполняющий обязанности контролера денежного обращения Майкл Сюй на конференции по искусственному интеллекту Совета по надзору за финансовой стабильностью. Сюй подчеркнул, что ИИ может угрожать финансовой стабильности.
«ИИ имеет многообещающие и опасные последствия в сфере финансовой стабильности, связанные с его использованием в качестве инструмента и оружия», — отметил Сюй. «Для смягчения этих рисков необходимы меры контроля и защиты, что может быть достигнуто через четкие ворота и модель общей ответственности за безопасность ИИ».
Сюй указал, что аналогичная структура ответственности используется в облачных вычислениях, где обязанности по эксплуатации, обслуживанию и безопасности распределяются между клиентами и поставщиками услуг. Подобная система может быть разработана и для ИИ.
Недавно созданный Институт безопасности искусственного интеллекта США может помочь в разработке этой системы, опираясь на более чем 280 заинтересованных организаций.
Замечания Сюя прозвучали в тот момент, когда министр финансов Джанет Йеллен предостерегла о рисках использования ИИ в финансах. Она подчеркнула, что сложности и непрозрачность моделей ИИ могут создавать значительные уязвимости, особенно когда многие участники рынка полагаются на одни и те же данные и модели. Министерство финансов ищет общественные комментарии по этому вопросу.
Сюй также отметил, что технология ИИ, как и электронная торговля, первоначально воспринимается как новинка, но со временем становится все более популярной. Однако банки, внедряющие ИИ, должны установить «четкие и эффективные ворота» на каждом этапе развития технологии, чтобы обеспечить безопасность.
«Прежде чем открыть ворота и перейти к следующему этапу, банки должны обеспечить наличие надлежащего контроля и подотчетности», — подчеркнул Сюй.
Он также упомянул о неожиданных или непреднамеренных последствиях чрезмерной зависимости от ИИ, приводя в пример случай Джейка Моффата, который воспользовался чат-ботом, чтобы узнать о возмещении средств за рейс в связи со смертью бабушки. Однако Air Canada отказала ему в возмещении, что привело к судебному разбирательству, в котором Моффат выиграл.
Сюй подчеркнул, что ответственность за действия чат-ботов и других ИИ-систем должна быть четко определена. То же самое относится к решениям, принимаемым ИИ при выдаче кредитов.
Распространение дипфейков, согласно Сюю, также представляет серьезную угрозу, особенно если преступники станут более продвинутыми в использовании ИИ. В ответ на это сенаторы Уорнер и Кеннеди представили законопроект, обязывающий координировать нормативные усилия по защите рынков от потенциально разрушительного воздействия ИИ.
«Рост мошенничества с использованием ИИ может подорвать доверие в сфере платежей и банковского дела», — предупредил Сюй.
А затем «Добавить на главный экран».