10 
- Модель DeepSeek-R1 не змогла заблокувати генерацію небезпечної інформації.
- Генеральний директор Anthropic висловив стурбованість потенційними ризиками.
- DeepSeek продовжує зростати, попри заборони з боку урядових структур у різних країнах.
Генеральний директор компанії Anthropic Даріо Амодей висловив серйозні побоювання з приводу китайського стартапу DeepSeek. За його словами, їхня ШІ-модель R1 показала найгірший результат у тестах на безпеку даних.
В інтерв’ю подкасту ChinaTalk Амодей повідомив, що рішення видавало небезпечну інформацію про біологічну зброю без будь-яких обмежень.
Anthropic регулярно тестує ШІ-моделі на здатність генерувати чутливі дані, які важко знайти у відкритих джерелах. На думку підприємця, продемонстровані DeepSeek результати можуть становити загрозу в майбутньому, попри те, що зараз модель не вважається «небезпечною». Він закликав компанію серйозніше поставитися до питань безпеки ШІ.
Амодей також підтримав введення суворого контролю за експортом чипів до Китаю, побоюючись, що це може дати місцевим військовим технологічну перевагу. Однак, всупереч цим заходам, глобальне поширення DeepSeek триває, і глава Anthropic визнав її серйозним конкурентом для провідних ШІ-компаній світу.
Раніше DeepSeek також зазнала критики з боку фірми Cisco. Її експерти заявили, що модель R1 успішно генерувала шкідливу інформацію про кіберзлочинність та іншу незаконну діяльність.
Хоча інші ШІ-продукти, на кшталт GPT-4o від OpenAI та Llama-3.1 від Meta, також показали високий рівень ризиків у подібних тестах, результат DeepSeek викликав особливу стурбованість аналітиків. Експерти без особливих проблем обійшли захисні механізми рішення, змусивши модель видавати суспільно небезпечні дані, заявили в Cisco.
Попри це, компанії Amazon і Microsoft вже інтегрували DeepSeek-R1 у свої хмарні платформи. Це викликає питання у багатьох профільних фахівців, враховуючи, що Amazon є найбільшим інвестором Anthropic.
Тим часом ВМС США, Пентагон та інші урядові організації почали забороняти використання DeepSeek з міркувань безпеки. Ба більше, раніше ЗМІ повідомили, що Microsoft і розробники ChatGPT почали розслідування щодо китайського стартапу через підозріле вилучення даних через API OpenAI.
Нагадаємо, ми писали, що дослідники створили конкурента ChatGPT і DeepSeek-R1 всього за $50.
