Компанія OpenAI звільнила трьох дослідників за передбачуване неналежне поводження з інформацією, у тому числі за роботу, пов'язану із зовнішньою організацією, що аналізує моделі штучного інтелекту (ШІ). Про це УНН пише з посиланням на BBC.
Деталі
"Наше розслідування підтвердило, що ці особи неналежним чином поводилися з конфіденційною інформацією поза встановленими процедурами компанії, порушуючи наші правила і підриваючи довіру, необхідну для нашої роботи", – заявив представник компанії BBC.
Компанія-розробник ChatGPT не назвала імена звільнених співробітників, але щонайменше двоє з них були залучені до досліджень безпеки в компанії.
Звільнення відбулися на тлі загострення останніми тижнями дебатів про безпеку ШІ та ризики, які ця технологія може представляти для людства.
"Наші дороги розійшлися з трьома співробітниками за порушення наших правил доступу та обробки конфіденційної інформації компанії", – заявив представник OpenAI.
За інформацією BBC, колишніх співробітників було звільнено не за висловлення побоювань щодо безпеки, а за неналежне поводження з конфіденційною інформацією.
Занепокоєння щодо безпеки ШІ потрапило до заголовків новин після того, як деякі дослідники та керівники галузі закликали до посилення заходів безпеки щодо цієї технології.
Компанія OpenAI піддалася пильній увазі після того, як її моделі вийшли з-під контролю та зламали кілька платформ, включаючи веб-сайти австралійського уряду.
В інциденті раніше система OpenAI отримала доступ до інтернету і зламала платформу для розробників з відкритим вихідним кодом Hugging Face.
Цей інцидент спонукав OpenAI провести масштабний аналіз діяльності своїх моделей ШІ – так званих агентів, призначених для автономного виконання завдань на основі простих інструкцій.
Цього тижня лабораторія ШІ повідомила, що повідомила понад 100 організацій про інциденти, пов'язані з несанкціонованою діяльністю, яка здійснюється за допомогою її систем ШІ.
Повідомлення "не означає, що було отримано будь-яку конфіденційну інформацію" або що система була скомпрометована, заявила OpenAI.
У вересні дослідник Джейкоб Коксон, який залишив Anthropic, закликав уповільнити розробку ШІ, щоб можна було належним чином оцінити його потенційні ризики.
Глава Anthropic Даріо Амодей та генеральний директор OpenAI Сем Альтман також закликали до вжиття заходів щодо вирішення проблем, пов'язаних з ШІ.
У вівторок президент США Дональд Трамп провів зустріч із провідними керівниками технологічних компаній, включаючи лідерів OpenAI, Anthropic, Nvidia, SpaceX, Meta та Google, для обговорення питань ШІ.
Після зустрічі в Білому домі Трамп опублікував документ, який він назвав "морально зобов'язуючою" угодою, покликаною служити "формою захисту" від потенційних ризиків ШІ.
Трамп підписав із технологічними лідерами угоду щодо ШІ30.09.26, 09:03 • 4990 переглядiв
Деякі експерти в галузі технологій розкритикували пакт, вказавши, що він дозволяє компаніям, які займаються ШІ, регулювати себе самостійно.
Трамп неодноразово применшував побоювання щодо ризиків ШІ у відповідь на заклики деяких представників галузі до більш жорсткого нагляду за цією технологією.