Как Bank of America и S&P внедряют ИИ в регулируемых отраслях
Главный директор по технологиям и информации Bank of America Хари Гопалкришнан заявил на саммите AIQ Fortune в Нью-Йорке, что одна из самых распространённых ошибок при внедрении ИИ — спешить с его использованием как готового решения. Банк также планирует удвоить бюджет на ИИ в следующем году.
«Одна из самых больших ошибок, которую мы видим, и другие делают, — это спешка с ИИ в качестве решения, — сказал Хари Гопалкришнан на саммите AIQ Fortune в Нью-Йорке, — когда детерминированные модели делают много хорошей работы».
Гопалкришнан появился вместе с Салли Мур, главным клиентским директором S&P Global и соруководителем Kensho Data & Platforms. Редактор журнала Fortune Эндрю Нуска модерировал.
Как Bank of America выбирает инструменты?
Гопалкришнан сказал, что банк начинает с того, что нужно клиентам, и «обрабатывает инвентаризацию» шагов, стоящих за их запросами. Он часто принимает решения против ИИ — «много раз», сказал он. Мобильное приложение или правило принятия решений в режиме реального времени могут быть лучшим ответом.
Каждый проект ИИ также проходит через обзор, который охватывает 16 «столпов» риска, включая конфиденциальность, предвзятость, влияние на рабочую силу и интеллектуальную собственность.
Он сказал, что банк использует ИИ уже более десяти лет, начиная с моделей мошенничества. По его словам, его виртуальный помощник Эрика обработал 3,6 миллиарда транзакций, и без него банку потребуется еще 11 000 человек, чтобы ответить на звонки. В мартовском пресс-релизе банка было подсчитано, что взаимодействие с клиентами Эрики составляет более 3,2 миллиарда долларов.
Осторожность связана с большими расходами. Генеральный директор Брайан Мойнихан сказал в сентябре, что около 140 применений ИИ стоят 400 миллионов долларов и приносят 800 миллионов долларов прибыли, и что бюджет расходов на ИИ удвоится в следующем году.
Эти расходы тщательно распределяются, и Гопалкришнан сказал, что банк является моделью-агностиком. Оркестровый слой (называемый Оркестром, естественно) посылает простые задачи классификации утвержденным моделям с открытым весом, работающим на собственных графических процессорах банка, и более жесткие рассуждения на проприетарные модели. Он сказал, что это также помогает контролировать стоимость токенов. По его словам, в управлении активами консультанты теперь могут готовиться к встречам с клиентами за «секунды и минуты», работа, которая раньше занимала дни и недели.
Что касается агентов, банк не спешит к автономии. «Сейчас так много сока можно выжать с помощью вспомогательных агентов, которые на самом деле работают с людьми в цикле», — сказал он. Банк пойдет дальше по мере совершенствования инфраструктуры контроля.
Он также обратился к безопасности и сказал, что модели ИИ становятся все лучше в поиске уязвимостей программного обеспечения, поэтому исправление и безопасная разработка имеют значение, использует ли компания ИИ. Ставки выходят за рамки какого-либо одного банка, сказал он: если у небольшого банка где-то есть проблема, люди теряют веру в финансовую систему.
Как S&P использует данные и ИИ?
Мур сказала, что ее 160-летняя компания позиционирует себя агрессивно и осторожно. S&P является крупнейшим в мире кредитным рейтинговым агентством и одним из крупнейших поставщиков индексов, и большая часть его финансовых данных подает регулируемые рабочие процессы. Клиенты нуждаются в точности, цитировании, проверяемости и прослеживаемости до источника.
Она сделала раннюю ставку. S&P купила AI-компанию Kensho в 2018 году, и это «дало нам преимущество», сказала она, пояснив, что с тех пор S&P поставила Kensho в центр бизнеса. 6 июля он разделил Market Intelligence на два подразделения. Первый, Kensho Data & Platforms, объединяет «Kensho Data», клиентский уровень данных и уровень доставки ИИ, с группой платформ, в которой находятся Capital IQ, Ratings Direct, Visible Alpha и With Intelligence. Второе подразделение — Enterprise Solutions. Генеральный директор Мартина Чунг сказала, что изменения должны поддержать рост доходов и лучшую маржу.
Около двух лет назад S&P также создала главный офис клиентов, который возглавляет Мур, для более тесной работы с клиентами. У него есть группа лабораторий и то, что он называет передовыми экспертами, которые работают с клиентами над ИИ.
S&P обслуживает 60 000 клиентов на разных этапах внедрения ИИ. Он работает с пограничными лабораториями искусственного интеллекта, помещает свои данные в большие языковые модели и инструменты производительности, а теперь создает своих собственных агентов. Использование работает от широких задач, таких как банкиры, готовящиеся к встречам и питч-книгам, до специализированных агентов, созданных для одной работы.
Она привела один пример. Банк первого уровня с 8000 банкирами объединял наборы S&P-контента на своей собственной платформе. По ее словам, S&P помогла довести его до производства «в шесть раз быстрее», а точность выросла с 60%, когда банк начал работать, до 98%. (Она не назвала банк, и цифры принадлежат S&P.) S&P также создала агента «создателя кредитных записок», который держит людей в курсе и полагается на уверенность в базовых данных.
Как и Гопалкришнан, она говорила об использовании правильного инструмента для работы. Детерминированный вариант S&P для языковых моделей — это API, поэтому он не требует больших затрат на токены. Более сложный «адаптивный поиск данных в масштабе» стоит дороже. Клиенты также платят за данные, технологии и эффективность работы людей из разных бюджетов, поэтому S&P обсуждает с ними ряд результатов.
В чём расходятся пути Bank of America и S&P?
Отвечая на вопрос, выбирает ли он когда-либо ИИ, Гопалкришнан сказал, что самый простой ответ часто является лучшим.
Мур согласился, а затем продолжил свою мысль. «Я думаю, Хари сказал это очень хорошо. Это не вокруг правильного инструмента. Это немного о переосмыслении, — сказала она. — Что я пытаюсь решить здесь? И куда эта технология может меня завести?
Это означает, что внутри S&P находится центральный офис трансформации, который объединяет технологов и, в последнее время, операции с данными.
В заключительном молниеносном раунде Мур указала на «встроенный интеллект», который, по ее словам, «создает возможность выйти за рамки клиентов, которым вы служите сегодня».
У Гопалкришнана было последнее слово: «Я думаю, что ожидание потребностей вашего клиента и обслуживание их там, где они есть, будет отличать вас в коммодитизированном пространстве».
Для этой истории журналисты Fortune использовали генеративный ИИ в качестве исследовательского инструмента. Редактор проверил точность информации перед публикацией.
Вопросы и ответы
Сколько людей понадобилось бы Bank of America без виртуального помощника Эрики?
По словам Хари Гопалкришнана, без Эрики банку потребовалось бы дополнительно 11 000 сотрудников для ответа на звонки. Виртуальный помощник обработал 3,6 миллиарда транзакций.
Как Bank of America распределяет задачи между разными ИИ-моделями?
Банк придерживается модели-агностика. Оркестровый слой под названием «Оркестр» направляет простые задачи классификации открытым моделям на собственных графических процессорах, а сложные рассуждения — проприетарным моделям.
Какую выгоду S&P Global получила от покупки Kensho?
S&P купила Kensho в 2018 году, и это дало компании преимущество. С тех пор Kensho стал центром бизнеса: 6 июля Market Intelligence разделили на два подразделения, одно из которых — Kensho Data & Platforms.
