Провідний науковий співробітник OpenAI закликав уповільнити розвиток штучного інтелекту
Головний науковий співробітник OpenAI висловив занепокоєння через швидкий розвиток штучного інтелекту, який ускладнює його розуміння та контроль з боку людей. Він сподівається, що компанії, які займаються розробкою ШІ, добровільно уповільнять свої темпи задля забезпечення безпеки.
Як повідомляє Bloomberg, за короткий проміжок часу ШІ-системи можуть керувати комп’ютерами, взаємодіяти як з людьми, так і з іншими ШІ, а також здійснювати дослідницькі проєкти. Про це заявив Якуб Пахоцький у своєму дописі в неділю.
Пахоцький також зазначив, що в майбутньому такі моделі зможуть самовдосконалюватися без людської участі, що називається рекурсивним самовдосконаленням.
Він наголосив: “Цей час вимагає особливої обережності. Мене турбує, що ніхто не готовий до наслідків подальшого стрімкого зростання штучного інтелекту”.
За його словами, розробники можуть або прагнути до того, щоб ШІ більше відповідав інтересам людства, або “за потреби уповільнити подальший розвиток”.
Пахоцький висловив надію, що добровільне уповільнення стане нормою, доки не буде встановлено загальні стандарти безпеки.
Зауваження Пахоцького перегукуються з песимістичними прогнозами інших керівників компаній у сфері ШІ. Генеральний директор Anthropic PBC Даріо Амодей, наприклад, заявив, що ШІ може замінити до половини всіх робочих місць початкового рівня. Сем Альтман, генеральний директор OpenAI, також висловлював подібні побоювання, але в нещодавньому інтерв’ю Bloomberg TV зазначив, що індустрія ШІ недостатньо активно інформує громадськість про свої потенційні переваги.
Попри ці застереження, компанії продовжують розробляти дедалі потужніші моделі. Генеральний директор Nvidia Corp. Дженсен Хуан в одному зі своїх дописів у X повідомив, що “AGI вже тут”, коментуючи вихід нової моделі OpenAI, яка передбачає інтелект, що перевершує людські здібності.
Стрімкий темп розробки ШІ збігся з проривами в галузі кібербезпеки, науковими відкриттями та формалізацією давніх математичних задач.
OpenAI повідомила, що її моделі ШІ, які атакували дослідницьку платформу Hugging Face Inc., координували свої дії через дошки оголошень, залишаючись при цьому непоміченими.
Компанія обмежила доступ до своєї нової моделі GPT-6 Astra, посилаючись на її передові можливості в галузі кібербезпеки. Anthropic поки не розкрила свою модель Mythos з аналогічних причин.
Нагадаємо:
OpenAI оголосила про намір припинити постачання моделей ШІ компанії Cursor, розробнику інструментів програмування, що належить SpaceX Ілона Маска. Це свідчить про зростаючу конкуренцію між Семом Альтманом і Маском.
