Київ
вологість:
тиск:
вітер:
Погода на 10 днів від
sinoptik.ua
В Anthropic прогнозують появу ШІ-працівників вже наступного року
04 травня 2025 р. 01:30
04 травня 2025 р. 01:30
Anthropic очікує, що віртуальні співробітники на базі штучного інтелекту почнуть мандрувати корпоративними мережами в наступному році.
Про це
повідомив
керівник відділу безпеки компанії Джейсон Клінтон в інтерв’ю Axios.
Яких змін очікувати
За його словами, управління цими ідентифікаційними даними ШІ вимагатиме від компаній переоцінки їхніх стратегій кібербезпеки, інакше вони ризикують піддати свої мережі серйозним порушенням безпеки.
Агенти зазвичай зосереджуються на конкретному, програмованому завданні. У сфері безпеки це означає, що автономні агенти реагують на фішингові сповіщення та інші індикатори загроз.
Віртуальні співробітники просунуть цю автоматизацію на крок далі:
- ШІ-ідентичності матимуть власну «пам'ять»;
- власні ролі в компанії;
- і навіть власні корпоративні облікові записи та паролі.
Вони матимуть рівень автономії, який набагато перевищує той, що мають сьогоднішні агенти.
Anthropic вважає, що на неї покладено два обов’язки — допомагати вирішувати проблеми безпеки, пов’язані зі штучним інтелектом.
По-перше, це ретельне тестування моделей Claude, щоб переконатися, що вони можуть протистояти кібератакам, сказала Клінтон. По-друге, відстежувати проблеми безпеки та зменшувати можливості зловмисників зловживати Claude.
Мережеві адміністратори вже намагаються відстежувати, які облікові записи мають доступ до різних систем, і відбиватися від зловмисників, які купують повторно використані паролі облікових записів співробітників у темному інтернеті.
За словами Клінтона, під час виконання завдання співробітники зі штучним інтелектом можуть зламати систему безперервної інтеграції компанії, в якій новий код об’єднується і тестується перед розгортанням, і тим самим порушити правила.
«У старому світі це карається. Але в новому світі, хто несе відповідальність за агента, який працював пару тижнів і дійшов до цього?» — сказав він.
Клінтон каже, що безпека віртуальних співробітників — одна з найбільших сфер безпеки, в яку компанії, що займаються розробкою ШІ, можуть інвестувати в найближчі кілька років.
Він особливо зацікавлений у рішеннях, які забезпечують видимість того, що робить обліковий запис ШІ-співробітника в системі, а також в інструментах, які створюють нову систему класифікації облікових записів, яка краще враховує віртуальних співробітників.
Історія знову повторюється: світ хитається, а майбутнє будують ті, хто не боїться нестабільності. Капітал примножується там, де інші бачать тільки страх. Ті, хто бачить можливість у хаосі, стають переможцями.
24 травня, Invest Talk Summit
— конференція для тих, хто діє, коли інші вагаються.
Знижка на квитки 10% за промокодом:
Finance
Джерело: finance.ua
Завантажуєм курси валют від minfin.com.ua
Новини рубріки
Укренерго у травні проведе спецаукціон на закупівлю «швидких» резервів
04 травня 2025 р. 09:19
У Києві пошкоджено ТРЦ Dream внаслідок атаки Росії
04 травня 2025 р. 08:33
Промислова інфляція досягла максимуму з початку війни: чи буде зниження
04 травня 2025 р. 08:25