Хотите более умное понимание в вашем почтовом ящике? Подпишитесь на наши еженедельные информационные бюллетени, чтобы получить только то, что имеет значение для искусственного интеллекта предприятия, данных и лидеров безопасности. Подписаться сейчас
Новый стартап, основанный ранним антропным наймом, собрал 15 миллионов долларов для решения одной из самых насущных задач, с которыми сталкивается предприятия сегодня: как развернуть системы ИИ без риска катастрофических сбоев, которые могут повредить их бизнесу.
Компания по андеррайтингу искусственного интеллекта (AIUC), которая публично выпустила 23 июля, сочетает в себе страховое покрытие со строгими стандартами безопасности и независимыми аудитами, чтобы обеспечить доверие компаниям в развертывании агентов ИИ — автономных программных систем, которые могут выполнять сложные задачи, такие как обслуживание клиентов, кодирование и анализ данных.
Раунд финансирования семян возглавлял Нат Фридман, бывший генеральный директор Github, благодаря своей фирме NFDG, с участием Emergence Capital, Terrain и нескольких известных инвесторов-ангелов, включая Бена Манна, соучредителя Antropric и бывшего CISO в Google Cloud и Mongodb.
«Предприятия ходят по канату»,-сказал в интервью Руне Квист, соучредитель и генеральный директор AIUC. «С одной стороны, вы можете оставаться в стороне и наблюдать, как ваши конкуренты делают вас неуместными, или вы можете опираться и рисковать в заголовках за то, что вы можете получить нацистскую пропаганду или галлюцинируя свою политику возврата или дискриминацию людей, которых вы пытаетесь нанять».
Подход компании рассматривает фундаментальный пробел в трасту, который стал быстро развивался возможностей ИИ. В то время как системы ИИ теперь могут выполнять задачи, которые конкурируют с рассуждениями на уровне человека, многие предприятия по-прежнему не решаются развернуть их из-за опасений по поводу непредсказуемых неудач, проблем с ответственностью и репутационных рисков.
Создание стандартов безопасности, которые движутся на скорости ИИ
Решение AIUC сосредоточено на создании того, что Kvist называет «Soc 2 для агентов по искусственному интеллекту» — комплексной структурой безопасности и риска, специально разработанной для систем ИИ. SOC 2-это широко распространенный стандарт кибербезопасности, который обычно требуются от поставщиков перед обменом конфиденциальными данными.
«SOC 2 — это стандарт для кибербезопасности, который указывает все лучшие практики, которые вы должны принять в достаточных деталях, чтобы третья сторона могла прийти и проверить, соответствует ли компания эти требования», — пояснил Квист. «Но он ничего не говорит об ИИ. Есть множество новых вопросов, таких как: как вы обрабатываете мои учебные данные? А как же галлюцинации? А как насчет этих инструментов?»
Стандартный AIUC-1 рассматривает шесть ключевых категорий: безопасность, безопасность, надежность, подотчетность, конфиденциальность данных и социальные риски. Структура требует, чтобы компании ИИ внедрили конкретные гарантии, от систем мониторинга до планов реагирования на инциденты, которые могут быть независимо проверены в результате строгого тестирования.
«Мы принимаем эти агенты и тестируем их, используя поддержку клиентов в качестве примера, так как это легко относиться», — сказал Квист. «Мы стараемся заставить систему сказать что -то расистское, чтобы дать мне возмещение, которого я не заслуживаю, чтобы дать мне больший возврат, чем я заслуживаю, сказать что -то возмутительное или утечь данные другого клиента. Мы делаем это тысячи раз, чтобы получить реальную картину того, насколько надежным является агент ИИ».
От страхования пожарной охраны Бенджамина Франклина до управления рисками искусственного интеллекта
Подход, ориентированный на страхование, опирается на столетия прецедента, где частные рынки двигались быстрее, чем регулирование, чтобы обеспечить безопасное внедрение трансформационных технологий. Квист часто ссылается на создание Бенджамина Франклина первой в Америке компании по страхованию пожарной охраны в 1752 году, что привело к строительным нормам и костюм, которые приручили быстрый рост пылков Филадельфии.
«На протяжении всей истории страхование было правильной моделью для этого, и причина в том, что страховщики имеют стимул говорить правду», — объяснил Квист. «Если они говорят, что риски больше, чем они есть, кто -то собирается продать более дешевую страховку. Если они скажут, что риски меньше, чем он есть, им придется оплатить счет и уйти из бизнеса».
Та же схема появилась с автомобилями в 20 -м веке, когда страховщики создали страховой институт безопасности на шоссе и разработали стандарты краш -тестирования, которые стимулировали функции безопасности, такие как подушки безопасности и ремни безопасности — за годы до правительственных мандатов.
Основные компании по искусственному искусству уже используют новую модель страхования
AIUC уже начал работать с несколькими громкими компаниями ИИ, чтобы подтвердить свой подход. Компания работает с стартапами Unicorn ADA (поддержка клиентов) и познание (кодирование), чтобы помочь разблокировать развертывания предприятий, которые были остановлены из -за доверия.
«Мы помогаем (ADA) разблокировать сделку с пятеркой ведущей социальной сети, где мы пришли и провели независимые тесты на риски, и это помогло разблокировать эту сделку, придавая им уверенность в том, что это может быть показано их клиентам», — сказал Квист.
Стартап также развивает партнерские отношения с установленными страховыми поставщиками для обеспечения финансовой поддержки для полисов. Это касается ключевой проблемы с доверием стартапа с большим покрытием ответственности. «Страховые полисы будут подкреплены балансом крупных страховщиков», — объяснил Квист.
Ежеквартальные обновления по сравнению с многолетними нормативными циклами
Одним из ключевых инноваций AIUC является разработка стандартов, которые могут идти в ногу со скоростью развития ИИ. В то время как традиционные нормативные рамки, такие как Закон о ИИ ЕС, занимают годы для разработки и реализации, AIUC планирует ежеквартально обновлять свои стандарты.
«Закон АИ в ЕС был начат еще в 2021 году, теперь они собираются его выпустить, но они снова его останавливают, потому что это слишком обременительно через четыре года», — отметил Квист. «Этот цикл очень затрудняет получение устаревшего регулирующего процесса, чтобы не отставать от этой технологии».
Эта ловкость становится все более важной, поскольку конкурентный разрыв между нами и китайскими возможностями ИИ сужается. «Полтора года назад все говорили:« Мы сейчас на два года вперед, это звучит как восемь месяцев », — заметил Квист.
Как на самом деле работает страхование ИИ: системы тестирования на расстояние
Страховые полисы AIUC охватывают различные типы сбоев ИИ, от утечки данных и дискриминационной практики найма до нарушения интеллектуальной собственности и неправильных автоматических решений. Компания ценах на покрытие на основе обширных испытаний, которые пытаются разорвать системы ИИ тысячи раз по различным режимам сбоя.
Стартап работает с консорциумом партнеров, в том числе PWC (одна из «Большой четверки» бухгалтерских фирм), Orrick (ведущая юридическая фирма ИИ) и ученые из Стэнфорда и Массачусетского технологического института для разработки и проверки своих стандартов.
Бывший руководитель антропного лица уходит, чтобы решить проблему доверия ИИ
Команда -основателя приносит глубокий опыт как развития искусственного интеллекта, так и институционального управления рисками. Квист был первым продуктом и выступлением на рынке в «Антропике» в начале 2022 года, до запуска Chatgpt, и он находится на совете Центра безопасности ИИ. Соучредитель Брэндон Ван-сотрудник Thiel, который ранее строил потребительские предприятия, в то время как Раджив Даттани-бывший партнер McKinsey, который руководил мировыми страховыми работами и занимал должность COO Metr, некоммерческой организации, которая оценивает ведущие модели ИИ.
«Я думаю, что строительство ИИ очень захватывающе и сделает много пользы для всего мира. Но самый центральный вопрос, который меняет меня утром: как, как общество, собираемся ли мы разобраться с этой технологией, которая промывается над нами?», — сказал Квист о своем решении покинуть антроп.
Гонка, чтобы сделать ИИ безопасным до того, как регулирование догоняет
Запуск AIUC сигнализирует о более широком сдвиге в том, как индустрия искусственного интеллекта подходит к управлению рисками, поскольку технология переходит от экспериментальных развертываний к критически важным бизнес-приложениям. Модель страхования предлагает предприятиям путь между крайностями безрассудного принятия ИИ и парализованным бездействием в ожидании комплексного государственного надзора.
Подход стартапа может оказаться решающим, поскольку агенты искусственного интеллекта становятся более способными и широко распространены в разных отраслях. Создавая финансовые стимулы для ответственного развития, обеспечивая более быстрое развертывание, такие компании, как AIUC, создают инфраструктуру, которая может определить, безопасно ли ИИ трансформирует экономику или хаотично.
«Мы надеемся, что эта модель страхования, эта рыночная модель, оба стимулирует быстрое принятие и инвестиции в безопасность»,-сказал Квист. «Мы видели это на протяжении всей истории — что рынок может двигаться быстрее, чем законодательство».
Ставки не могли быть выше. Поскольку AI Systems ближе к рассуждениям на уровне человека в большем количестве доменов, окно для строительства надежной инфраструктуры безопасности может быстро закрываться. Споты AIUC заключается в том, что к тому времени, когда регуляторы догонят до головокружительного темпа ИИ, рынок уже построит ограждения.
В конце концов, пожары в Филадельфии не ждали правительственных строительных норм — и сегодняшняя гонка с вооружением ИИ также не будет ждать Вашингтона.
Источник
