Tech Crunch пише, що колишній президент Y Combinator Джефф Ралстон відкриває новий фонд «безпеки» ШІ. Розповідаємо, що відомо про нову концепцію.
Що сталося
Джефф Ралстон, колишній директор Y Combinator, оголосив про створення нового фонду Safe Artificial Intelligence Fund (SAIF), орієнтованого на розвиток «безпечного» штучного інтелекту. Він активно шукає стартапи, які сприяють безпечному впровадженню та відповідальному використанню ШІ.
Ралстон має намір інвестувати $100 000 у стартапи, використовуючи інструмент SAFE (Simple Agreement for Future Equity), розроблений Y Combinator, який передбачає інвестування на ранній стадії з визначенням оцінки компанії пізніше. Він жартівливо називає ці інвестиції «безпечними», тим самим підкреслюючи зацікавленість у тематиці надійного штучного інтелекту, хоча визнає, що саме поняття «безпека» в цій галузі досить розмите.
Ралстон зазначає, що переважна більшість сучасних проєктів штучного інтелекту спрямовані на розв’язання проблем, оптимізацію процесів або створення нових можливостей, і хоча вони не є загрозливими, безпека часто не є їхнім головним пріоритетом. З огляду на це, він планує підтримувати компанії, які ставлять пріоритет на етичне та безпечне використання ШІ в своїх продуктах і рішеннях.
Цей список містить стартапи, що працюють над підвищенням безпеки штучного інтелекту — зокрема ті, які пояснюють процес ухвалення рішень або займаються тестуванням його надійності. Сюди входять продукти:
- які захищають інтелектуальну власність;
- забезпечують відповідність ШІ вимогам;
- борються з дезінформацією;
- виявляють атаки, створені ШІ.
Він також хоче інвестувати у функціональні інструменти штучного інтелекту з урахуванням вбудованої безпеки, такі як кращі інструменти прогнозування штучного інтелекту та інструменти бізнес-переговорів із підтримкою штучного інтелекту, які не розкриватимуть корпоративні секрети стороннім.
Раніше стало відомо, що OpenAI разом з американським венчурним фондом Andreessen Horowitz профінансували маловідомий стартап із кібербезпеки у раунді фінансування серії А на суму $43 млн. Як і більшість інших компаній, що займаються кібербезпекою і пропонують ПЗ для захисту даних від зломів, стартап Adaptive Security використовує систему штучного інтелекту для аналізу повідомлень, які були позначені як підозрілі, присвоює їм рівні ризику і надсилає звіт команді безпеки компанії, яка може опинитися в зоні ризику.
Чому це цікаво
Венчурний інвестор Ралстон окреслив сфери штучного інтелекту, які він не підтримуватиме, наголосивши на неприйнятності повністю автономної зброї та інших небезпечних застосувань ШІ, серед яких створення біологічної зброї або керування звичайною зброєю без участі людини. Натомість він планує фінансувати «системи безпеки зброї», які могли б виявляти або запобігати атакам зі зброї на основі штучного інтелекту.
В умовах переповненого ринку інвестицій у штучний інтелект Ралстон сподівається використати свої зв’язки з Y Combinator (YC). Він також планує надавати менторську підтримку стартапам, навчати їх процесу подання заявок до YC та допомагати їм отримати доступ до своєї мережі інвесторів. Проте Ралстон не розкрив деталей щодо розміру свого фонду, кількості стартапів, які він планує підтримати, або імен своїх спонсорів.
Нагадаємо, що наразі засновники Y Combinator залучають менше грошей, що свідчить про «зміну настрою» серед стартапів. Штучний інтелект став каталізатором для створення успішних компаній з мінімальними командами, що викликало ажіотаж у Кремнієвій долині. Стартапи на базі ШІ демонструють суттєві темпи зростання доходів з невеликим штатом, що спонукає їх зменшувати залежність від венчурного капіталу. Інвестор Терренс Рохан з Otherwise відзначає «зміну настрою» серед засновників Y Combinator, які прагнуть до більшої автономії.