Я щойно прочитав щось, що дуже мене тривожить щодо того, що насправді відбувається в OpenAI. Виявляється, нещодавно The New York Times опублікувала розслідування, де журналісти на кшталт Ронана Фароу взяли інтерв’ю у понад 100 осіб і отримали внутрішні документи, які раніше ніколи не розкривалися. Історія, що з цього виходить, набагато темніша, ніж те, що було відомо публічно.

Найсильніша деталь: Ілля Сутскевер, головний науковець OpenAI, написав меморандум на 70 сторінок кілька років тому, де фактично задокументував послідовний патерн. Його початковий висновок був прямим: Сем демонструє систематичну брехню керівникам і правлінню. Це не спекуляція, це конкретні випадки. Наприклад, у грудні 2022 року Сем запевнив на засіданні правління, що функції GPT-4 пройшли перевірку безпеки. Коли попросили показати документи, з’ясувалося, що дві з найспірніших характеристик ніколи не були схвалені комітетом з безпеки.

Але найбільше мене вразило те, що вони знайшли у приватних нотатках Даріо Амоді, засновника Anthropic, який працював в OpenAI. Більше 200 сторінок, де він задокументував, як компанія поступово відступала під тиском комерційних інтересів. Амоді виявив, що Microsoft вставила в угоду статтю про вето, яка фактично анулювала гарантію безпеки, яку він цінував найбільше. З моменту підписання вона стала паперовим сміттям.

Є ще одна деталь, яка змушує волосся дибки: OpenAI офіційно оголосила, що виділить 20% своєї обчислювальної потужності команді з суперлінійного вирівнювання, з потенційною вартістю понад мільярд доларів. Оголошення було надзвичайно серйозним, говорили про екзистенційні ризики для людства. За словами чотирьох людей, які працювали в цій команді, реальна обчислювальна потужність становила між 1% і 2%, і це був найстаріший апаратний забезпечення. Після цього команду розпустили, не завершивши її місію.

Абсурд у тому, що коли журналісти попросили взяти інтерв’ю у відповідальних за дослідження з безпеки, прес-служба відповіла, що цього насправді не існує в OpenAI.

І це сталося саме тоді, коли з’явилася інформація, що фінансовий директор Сара Фріар має серйозні розбіжності з Семом. Фріар вважає, що OpenAI ще не готова виходити на біржу цього року, а Сем хоче просунути IPO. Найдивніше — що Фріар вже не підпорядковується безпосередньо Семові, а іншому керівнику, який у відпустці через проблеми зі здоров’ям. Компанія готується до IPO із такою внутрішньою структурою.

Внутрішні керівники Microsoft вже не можуть з цим справлятися. Кажуть, що Сем перекручує факти, порушує обіцянки і постійно скасовує угоди. Один навіть порівняв його з Берні Мейдоффом або SBF.

Колишній член правління описав його так: Сем має надзвичайно рідкісне поєднання якостей. У кожній особистій зустрічі він прагне догодити, але водночас проявляє майже соціопатську байдужість до наслідків обману інших. Для продавця — це найідеальніший дар.

Що мене турбує, так це те, що OpenAI — не звичайна технічна компанія. За їхніми словами, вони, ймовірно, розробляють найпотужнішу технологію в історії людства. Вони можуть перебудувати глобальну економіку, ринки праці, і, згідно з їхнім документом, цю технологію можна використовувати для створення біохімічної зброї або кібератак. Всі засоби безпеки залишилися на папері. Місія без прибутку поступилася гонитві за IPO.

Колишній головний науковець і колишній керівник з безпеки вважають генерального директора ненадійним. Чи справді ми почуваємося в безпеці, дозволяючи одній особі односторонньо вирішувати, коли запускати моделі штучного інтелекту, які можуть змінити долю людства?

Відповідь OpenAI була короткою: стаття повторює вже повідомлені події, посилаючись на анонімні заяви та вибрані анекдоти. Сем не відповів на конкретні звинувачення, не спростував автентичність меморандуму, лише поставив під сумнів мотиви.

Десять років OpenAI у короткому викладі: група ідеалістів, стурбованих ризиками ШІ, створила некомерційну організацію. Вони зробили надзвичайні прориви. Капітал прийшов масовий. Місія почала поступово здавати. Команда з безпеки була розпущена. Критики — усунені. Структура без прибутку перетворилася на комерційну. Правління, яке раніше могло закрити компанію, тепер наповнене союзниками генерального директора. Компанія, яка обіцяла виділяти 20% потужності для безпеки, тепер у публічних заявах каже, що цього не існує.

Більше сотні свідків дали однакову оцінку: це не відповідає правді. І вона вже на межі виходу на IPO з оцінкою понад 850 мільярдів доларів.