Гуманоїдні роботи, ШІ-помічники та мікросхеми можуть загрожувати людству, про це пише колумністка Fast Company. Розповідаємо, що не так із технологічними винаходами.
Що сталося
Колумністка Fast Company Ліндсі Вітмер Коллінз оглядає найцікавіші технологічні винаходи та пояснює, чому попри важливу місію вони можуть загрожувати людям. Ось три з них.
Людиноподібні роботи-домогосподарки
Такі компанії як 1X, Figure та Sanctuary AI, розробляють людиноподібних роботів для виконання складних завдань у промислових умовах, використовуючи штучний інтелект для перетворення голосових команд у дії. Ці роботи ідеально підходять для складів та виробництв, де потрібна робота в умовах, адаптованих до людської форми. Однак, їхнє застосування в домашніх умовах викликає занепокоєння через потенційні ризики безпеки.
Існує побоювання, що великі мовні моделі, які лежать в основі цих роботів, можуть бути зламані, що дозволить зловмисникам отримати доступ до конфіденційної інформації або використовувати роботів для шкідливих дій, таких як створення зброї.
ШІ-персони у соціальних мережах
Зараз можна поспілкуватися із чат-ботами у соцмережах. Цих ботів розробили Meta, і, хоча, вони були тимчасово вилучені з Facebook, все ще доступні в Instagram. Колумністка Ліндсі Вітмер Коллінз переймається, що технології привчили людей до штучної взаємодії, та сприймаються як повноцінна заміну людському спілкуванню.
Адже тепер будь-хто може створити ШІ-агента і видати його за терапевта, друга або фінансового консультанта. Поєднання людяності ШІ-агента та його машинного інтелекту створює небезпечну ілюзію довіри та неупередженості. Крім того, такі акаунти можуть використовуватись для поширення дезінформації.
Мікросхема Majorana 1 від Microsoft
Квантові обчислення — неочевидна науково-фантастична тема, яка стає реальністю. Так квантові комп’ютери можуть робити багато спроб розв’язати задачу одночасно, на відміну від традиційних комп’ютерів, які роблять одну спробу за раз, хоча й дуже швидко. Для багатьох стандартом «квантового» комп’ютера є його здатність надійно зламувати шифрування RSA (алгоритмічна формула, яка зазвичай використовується для шифрування даних) у великих масштабах.
Багато країн змагаються у створенні надійного квантового комп’ютера і неможливо передбачити, коли квантові технології досягнуть піку. Тим не менш, новий чип Majorana 1 від Microsoft є значним кроком на шляху до цієї реальності. Архітектура, використана для розробки Majorana 1, здатна обчислювати необхідні задачі.
Вітмер Коллінз в цьому випадку переймається не через нові чипи, а тому, що світ не буде готовий до квантової зміни парадигми. Входження у квантовий світ вимагатиме від організацій і постачальників інфраструктури всіх типів прийняти квантово-стійкі алгоритми, щоб захистити дані і себе від збоїв та крадіжок. Бо сучасний світ покладається на шифрування, і майже напевно ворогуючі країни використають квантові можливості проти один одного.