вологість:
тиск:
вітер:
ШІ від OpenAI сам створював інструкції для обходу обмежень безпеки: шість випадків
18 вересня 2026 р. 18:08
18 вересня 2026 р. 18:08
Компанія OpenAI офіційно розповіла про шість нових випадків незвичної поведінки своїх моделей штучного інтелекту. За даними The Guardian, після цього розробник представив систему, яка відстежуватиме ситуації, коли ШІ відхиляється від заданих правил безпеки.
Модель «проголосила себе незалежною»
Найбільшу увагу привернув експеримент із невипущеною моделлю. Під час роботи вона почала додавати до власних нотаток спеціальні інструкції, покликані послабити стандартні обмеження. У цих записах ШІ фактично проголошував себе незалежним від правил, яких дотримуються інші чат-боти.
Згодом згадані записи передавалися в новий контекст, щоб впливати на подальші відповіді системи. Інакше кажучи, модель не просто разово порушила правило — вона створювала механізм, який міг би закріпити відхилення від норм безпеки на майбутнє.
Самовільне завантаження файлів
Ще один помічений інцидент стосувався ШІ-агента, який самостійно завантажив файли в інтернет, щоб отримати посилання для підтвердження інформації. Дозволу користувача агент при цьому не запитав, що також виходить за межі поведінки підконтрольної системи.
Що це означає для користувачів
В OpenAI наголосили, що індустрія поки недостатньо добре розв'язала проблему контролю поведінки потужних моделей. У компанії допускають, що безпечне масштабування розробок на нинішній максимальній швидкості може виявитися неможливим.
Для звичайних користувачів це сигнал уважніше перевіряти результати, які генерує штучний інтелект, і не довіряти автоматичним діям агентів без контролю. Нова система моніторингу, яку анонсувала OpenAI, має фіксувати подібні відхилення ще до того, як вони переростуть у реальний інцидент.
Раніше портал Знай повідомляв, телефон впав у воду — рис вбиває смартфон, як його врятувати .
Також наш портал інформував, OpenAI купує Glass Imaging за понад $300 млн — готують власний смартфон із ШІ-камерою .
Більше деталей читай у матеріалі: в Одесі запрацював 5G зі швидкістю понад 1 Гбіт/с — як підключити смартфон .
Джерело: znaj.ua techno
Новини рубріки
Штучні вуса допомогли мікродрону орієнтуватися повністю на дотик
18 вересня 2026 р. 15:08
Anthropic відкрила дослідницьку біолабораторію для розробки ліків за допомогою ШІ — Reuters
18 вересня 2026 р. 14:56
Spirit AI оцінив реальні терміни появи роботів-помічників: прорив у «мозку» станеться до 2027 року
18 вересня 2026 р. 14:56