З OpenAI пішов ключовий дослідник та лідер команди безпеки ШІ
20 Травня 2024, 12:00
2 хв читання
Максим ШпиркаПишу новини про бізнес, технології та підприємництво.
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Режим читання
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Завершити
Ян Лейке, який очолював підрозділ з керування та контролю ШІ-інструментів у OpenAI, подав у відставку. Про це він повідомив у Х, пише Mashable. Розповідаємо чому.
Що сталося
Памʼятаєте, нещодавно OpenAI провела презентацію нової моделі — GPT-4o. Що саме та навіщо нам показали можна почитати в колонці шеф-редактора Vector Дмитра Кошельника.
Цікаво, що саме після презентації співзасновник OpenAI Ілля Суцкевер повідомив, що покидає компанію. Слідом за ним у відставку подав Ян Лейке, керівник підрозділу з керування та контролю ШІ-інструментів.
У серії дописів на X Лейке пояснив, чому він пішов з компанії. Він стверджував, що «не погоджувався з керівництвом OpenAI щодо основних пріоритетів компанії протягом досить тривалого часу».
Він вважає, що компанія повинна більше зосередитися на «безпеці, моніторингу, готовності, захищеності, стійкості до загроз, (супер)узгодженості, конфіденційності, впливі на суспільство і пов’язаних з цим темах».
I believe much more of our bandwidth should be spent getting ready for the next generations of models, on security, monitoring, preparedness, safety, adversarial robustness, (super)alignment, confidentiality, societal impact, and related topics.
Якщо коротко, на критику Яна Лейке співзасновник OpenAI Брокман написав великий твіт, який зводиться до одного меседжу: завдання відповідального розвитку AI дуже важливе, команда розуміє це, і вірить, що з цим можна впоратися. Сем Альтман також написав дружній твіт з подібним меседжем.
We’re really grateful to Jan for everything he's done for OpenAI, and we know he'll continue to contribute to the mission from outside. In light of the questions his departure has raised, we wanted to explain a bit about how we think about our overall strategy.