Технологічна галузь «доволі глухо» пояснює суспільству справжні ризики ШІ — так оцінив стан дискусії співзасновник Reddit Алексіс Оганян в ефірі CNBC у середу. Розмову про штучний інтелект, на його переконання, треба зосередити на предметних загрозах, а не перетворювати на привід заробити політичні бали. Оганян — не сторонній спостерігач: він співзаснував Reddit і керує венчурним фондом Seven Seven Six, тож стежить за індустрією зсередини. Поінформоване суспільство він назвав головною умовою, щоб пройти через цю технологічну хвилю без зайвої паніки.
Ризики є, але це не сценарій Skynet
Оганян не применшує небезпек — він сперечається з їхнім масштабом. «Ризики існують, і я вважаю їх радше м’якшими, радше банальнішими, ніж думають люди», — сказав підприємець. Апокаліптичні образи в дусі «Термінатора» лише відвертають увагу від конкретики. Серед реальних проблем він називає «рої агентів» — коли кілька ШІ-систем спільно виконують складне завдання. Такі системи діють дедалі автономніше, і ця автономність турбує дослідників сильніше за міфічний бунт машин.
Саму технологію Оганян порівняв із ядерною енергетикою: величезний потенціал користі — і не менш серйозний потенціал шкоди, якщо нею керувати безвідповідально. Порівняння не випадкове. Слова пролунали за кілька днів після попереджень дослідників OpenAI та Anthropic про рекурсивне самовдосконалення (RSI). Це здатність систем допомагати створювати потужніші версії самих себе, запускаючи цикл, де спроможніший ШІ будує ще спроможніший. Найбільший страх експертів простий. Якщо машини візьмуть навчання нових моделей на себе, люди ризикують втратити контроль над тим, у який бік ті розвиватимуться.
Тло — гучне звільнення в Anthropic
Заяви Оганяна прозвучали на хвилі гучного скандалу. Кількома днями раніше дослідник Джейкоб Коксон залишив Anthropic і публічно звинуватив компанію разом з OpenAI у безвідповідальності. 27-річний фахівець три роки займався претренуванням моделей в обох лабораторіях. У соцмережі X він написав, що компанії «женуться просто до самовдосконального надрозуму й грають нашими життями». Допис зібрав понад 171 млн переглядів і повернув у центр уваги давню суперечку про екзистенційні загрози ШІ.
Саме цю тональність Оганян і критикує. «Твіт-думер засмучував», — сказав він, не називаючи адресата, і додав, що його «дратує», коли «гасла насправді не відповідають реальним речам». Хвиля звільнень дослідників, орієнтованих на безпеку, лише підживлює емоційність дискусії — і, на думку підприємця, витісняє з неї зміст.
«Менше твітів, більше розмови»
Рецепт Оганяна — знизити градус. «Сподіваюся, усе піде у здоровому напрямку, а для цього потрібно менше твітів і більше вдумливої розмови», — сказав він. Принциповим для нього є нюанс: говорити про «важливі, реальні речі» замість тем, які дають швидкі політичні бали. Політизація штучного інтелекту в США тим часом набирає обертів — від дебатів про регулювання до заяв на найвищому рівні.
Головною вадою поточної дискусії Оганян вважає саме дезінформацію. «Мене це дратує, бо я бачу, скільки хибної інформації літає навколо. Але в довгій перспективі, гадаю, ми все зробимо правильно», — підсумував співзасновник Reddit.
Для інвесторів у технологічний сектор ця суперечка — не абстракція. Настрої довкола безпеки ШІ дедалі частіше рухають котирування: від виробників чипів до розробників моделей. Що гучніше звучать екзистенційні прогнози, то нервовіше поводяться ринки. За гучними формулюваннями, як зазначає Оганян, нерідко стоїть радше емоція, ніж факт. Reddit тут — показовий приклад. Компанія одночасно і майданчик, де вирує дискусія про ШІ, і бізнес, що монетизує дані для навчання тих самих моделей.
Читайте також
- Контроль виїзду з Китаю: чому Пекін замикає капітал і таланти всередині
- Дата-центри AWS у Бахрейні: чому Amazon не може відновити хмару
- Скільки американці накопичують на 401(k): середній баланс за віком і чому медіана каже правду
Джерела
Ви маєте увійти, щоб оприлюднити коментар.