OpenAI сотрудничает с конкурентами в области безопасности ИИ
Компания OpenAI активно работает над мерами по обеспечению безопасности искусственного интеллекта в сотрудничестве с основными конкурентами — Anthropic PBC и Google DeepMind. Это усилие инициировано в ответ на растущие опасения по поводу угроз, которые может представлять ИИ для экономической и национальной безопасности.
Как сообщает Bloomberg, Крис Лехейн, руководитель отдела глобальной политики OpenAI, сообщил во вторник, что это сотрудничество с Anthropic и Google продолжается уже несколько недель.
Лехейн отметил, что OpenAI не считает необходимым получать антимонопольные исключения для координации действий с этими компаниями в вопросах безопасности. «Лучше попробовать работать вместе, чтобы уделить приоритетное внимание безопасности», — сказал он на брифинге в Вашингтоне.
Опасения по поводу экзистенциальных рисков, связанных с ИИ, стали особенно актуальными после публикации эссе объемом 3 800 слов, написанного генеральным директором Anthropic Дарио Амодеем. В этом эссе он призвал ограничить разработку самых современных систем для того, чтобы исследователи могли лучше оценить потенциальные угрозы. Этот призыв был поддержан генеральным директором OpenAI Сэмом Альтманом и руководителем SpaceXAI Илоном Маском.
Антимонопольные регуляторы в США проявляют скептицизм в отношении возможности предоставления исключений для координации действий компаний в сфере ИИ. Председатель Федеральной торговой комиссии Эндрю Фергюсон выразил мнение, что такие запросы должны рассматриваться с «глубоким подозрением». Он добавил, что компании, занимающиеся ИИ, «пытаются создать барьеры для входа на рынок», что может защитить их бизнес от конкуренции. «Это, безусловно, похоже на рытье рва», — отметил он.
Во время брифинга Лехейн подчеркнул, что в истории уже есть примеры сотрудничества между компаниями в сфере безопасности, приведя в качестве примера авиационную отрасль. «На протяжении времени было много случаев, когда компании пытались помогать друг другу в вопросах безопасности», — добавил он.
Лехейн также сообщил, что находится в Вашингтоне для встречи с американскими законодателями. OpenAI поддерживает двухпартийные инициативы, направленные на устранение потенциальных катастрофических рисков, связанных с ИИ. Среди предлагаемых мер — концепция федерального регулирования, предложенная республиканцем Джеем Обернолтом и демократкой Лори Трахан. Компания также поддерживает законопроект Сената, разрабатываемый под руководством лидера большинства Джона Тюна, республиканца Теда Круза и демократки Эми Клобучар.
Стоит отметить:
Компания Anthropic предотвратила попытки использования своих моделей Claude для организации кибершпионской кампании против Украины, которая, как предполагается, связана с Россией. Ведущий научный сотрудник OpenAI также выразил обеспокоенность тем, что искусственный интеллект развивается настолько быстро, что людям становится все труднее его контролировать и понимать. Он выразил надежду, что лаборатории, занимающиеся разработкой ИИ, самостоятельно замедлят темпы своего развития ради безопасности.
