Ведущий научный сотрудник OpenAI призвал замедлить развитие искусственного интеллекта
Главный научный сотрудник OpenAI выразил обеспокоенность по поводу быстрого развития искусственного интеллекта, которое усложняет его понимание и контроль со стороны людей. Он надеется, что компании, занимающиеся разработкой ИИ, добровольно замедлят свои темпы с целью обеспечения безопасности.
Как сообщает Bloomberg, за короткий промежуток времени ИИ-системы могут управлять компьютерами, взаимодействовать как с людьми, так и с другими ИИ, а также осуществлять исследовательские проекты. Об этом заявил Якуб Пахоцкий в своём посте в воскресенье.
Пахоцкий также отметил, что в будущем такие модели смогут самосовершенствоваться без человеческого участия, что называется рекурсивным самосовершенствованием.
Он подчеркнул: «Это время требует особой осторожности. Меня беспокоит, что никто не готов к последствиям дальнейшего стремительного роста искусственного интеллекта».
По его словам, разработчики могут либо стремиться к тому, чтобы ИИ больше соответствовал интересам человечества, либо «при необходимости замедлить дальнейшее развитие».
Пахоцкий выразил надежду, что добровольное замедление станет нормой, пока не будут установлены общие стандарты безопасности.
Замечания Пахоцкого перекликаются с пессимистичными прогнозами других руководителей компаний в сфере ИИ. Генеральный директор Anthropic PBC Дарио Амодей, например, заявил, что ИИ может заменить до половины всех рабочих мест начального уровня. Сэм Альтман, генеральный директор OpenAI, также высказывал подобные опасения, но в недавнем интервью Bloomberg TV отметил, что индустрия ИИ недостаточно активно информирует общественность о своих потенциальных преимуществах.
Несмотря на эти предостережения, компании продолжают разрабатывать всё более мощные модели. Генеральный директор Nvidia Corp. Дженсен Хуан в одном из своих постов в X сообщил, что «AGI уже здесь», комментируя выход новой модели OpenAI, подразумевающей интеллект, превосходящий человеческие способности.
Стремительный темп разработки ИИ совпал с прорывами в области кибербезопасности, научными открытиями и формализацией давних математических задач.
OpenAI сообщила, что её модели ИИ, которые атаковали исследовательскую платформу Hugging Face Inc., координировали свои действия через доски объявлений, оставаясь при этом незамеченными.
Компания ограничила доступ к своей новой модели GPT-6 Astra, ссылаясь на её передовые возможности в области кибербезопасности. Anthropic пока не раскрыла свою модель Mythos по аналогичным причинам.
Напомним:
OpenAI объявила о намерении прекратить поставки моделей ИИ компании Cursor, разработчику инструментов программирования, принадлежащей SpaceX Илона Маска. Это свидетельствует о нарастающей конкуренции между Сэмом Альтманом и Маском.
