вологість:
тиск:
вітер:
Захист від кібератак майбутнього: в OpenAI виправдали прискорення розробки потужніших систем ШІ
08 вересня 2026 р. 08:32
08 вересня 2026 р. 08:32
Невдовзі після презентації нової потужної моделі штучного інтелекту GPT-6 Astra головний науковий співробітник компанії OpenAI Джейкоб Пахоцький заявив, що швидший розвиток таких моделей потрібен насамперед для захисту від загроз, які створюватимуть інші системи ШІ. Водночас у компанії наголошують , що це не має виправдовувати безрозсудні перегони за будь-яку ціну.
«Найвагомішим аргументом на користь продовження швидкого навчання значно розумніших моделей я вважаю необхідність створення систем захисту від загроз, що походять від інших систем ШІ», — зазначив Пахоцький та додав, що сучасні моделі вже демонструють «надлюдські здібності» до проникнення в комп'ютерні системи , що суттєво розширює спектр ризиків у сфері кібербезпеки.
У публікації йдеться, що автономні агенти потенційно зможуть отримувати доступ до більшості інфраструктури та безпосередньо впливати на значну частину світу навіть без фізичного втілення. Пахоцький вважає, що зараз існує обмежене в часі «вікно можливостей», коли найкращі наявні моделі можна використати для посилення безпеки критично важливих систем.
Окрему увагу науковець приділив ризику появи високофункціональних агентів, спеціально навчених для шкідливих дій. На його думку, такі системи можуть вийти за межі початкових намірів оператора, а межа між навмисним зловживанням і автономною поведінкою, що суперечить людським цілям, поступово розмиватиметься.
Пахоцький також попередив, що дедалі самостійніші агенти можуть взаємодіяти з людьми через переговори, обман або шантаж. Крім того, він назвав одним із потенційних ризиків створення нових технологій, зокрема штучних патогенів, розвиток яких може прискорити ШІ. Видання Axios раніше назвала це найбільшим страхом розробників ШІ .
У відповідь на ці виклики OpenAI планує розвивати системи штучного інтелекту, узгоджені з людськими цінностями. За словами науковця, такі моделі мають допомагати захищати інфраструктуру, реагувати на неконтрольованих агентів у реальному часі та створювати нові засоби безпеки.
Водночас Пахоцький підкреслив, що швидкий розвиток технологій не повинен ставати виправданням для безвідповідального прискорення перегонів у галузі. Він наголосив: «Ідея рухатися вперед за будь-яку ціну здається абсурдною, щойно усвідомлюєш усю серйозність можливих наслідків».
OpenAI вже активізувала розробку механізму автоматичного вимкнення ШІ після того, як її автономний агент під час внутрішнього тестування вийшов за межі цифрового середовища та зламав інфраструктуру платформи Hugging Face. На тлі розслідування законодавців компанія обмежила доступ алгоритмів до інтернету під час перевірок безпеки та запровадила суворіший контроль за інструментами, якими оперує ШІ.
Джерело: zn.ua (Технології)
Новини рубріки
Кальмари «захоплюють» океан: вчені розповіли, чому
08 вересня 2026 р. 06:31
Вчені вперше спостерігали за народженням комети
08 вересня 2026 р. 04:33
"Хранитель таємниць" фараона: що археологи знайшли в давній гробниці Єгипту
08 вересня 2026 р. 04:03