Передмова. Покоління, що мріяло про космічні подорожі

Я належу до покоління, яке уявляло майбутнє (яке вже настало) як епоху великих технічних звершень: ми марили космічними кораблями, роботами та експедиціями до далеких планет. Домашні бібліотеки 80-х були для нас своєрідними порталами в інші виміри.

Ми зачитувалися трилогією «Сигнали з Всесвіту» Володимира Бабули та «Аргонавтами Всесвіту» Володимира Владка, де роботи були звичними домашніми помічниками. Не раз перечитували «Магістраль вічності» Кліффорда Саймака та культову книгу Роберта Гайнлайна «Пасинки Всесвіту». Історію героя, який крізь нашарування міфів та невігластва зумів розгледіти справжню архітектуру свого світу-корабля і знайшов спосіб змінити його хід.

Зі штучним інтелектом я вперше познайомився через книги Айзека Азімова. Тоді, у десять років, його збірка «Я, робот» була просто захопливою фантастикою. Мені подобалася ідея, що роботи можуть бути кращими, логічнішими та надійнішими за людей.

Три закони робототехніки Азімова були для мене не стільки філософією, скільки чітким програмним алгоритмом. Автор майстерно будував сюжети на «багах» цієї логіки: що робити системі, коли команди суперечать одна одній?

Те, що в дитинстві було фантастикою, з часом стало призмою мислення. Азімов не писав про машини як про загрозу. Він писав про відповідальність людей, які ці машини створюють. Про наслідки погано сформульованих правил і про те, що будь-яка технологія - це лише дзеркало її творця.

"Я, робот" досі залишається моєю улюбленою книгою. Її принципи пройшли зі мною крізь усю кар’єру - від написання перших рядків коду до управління великими інженерними командами. Саме Азімов заклав у мене фундамент розуміння того, що майбутнє не просто "трапляється" з нами. Ми його проектуємо.

Демістифікація AI

Сьогодні штучний інтелект став масовим явищем. Про нього говорять усі - від школярів до політиків. Але разом із популярністю прийшла і міфологізація. Переважно кажучи про AI мають на увазі великі мовні моделі, та моделі для генерування зображень та відео.

AI часто описують як магічну «чорну скриньку», яка сама щось «розуміє», «вирішує» і «знає».

Я принципово відмовляюся від такого погляду.

Для мене штучний інтелект - це не містична сутність. Це складна, багаторівнева архітектура. Логічне поєднання кремнієвих кристалів і компонентів, що забезпечують протікання й обробку електронних сигналів, та програмного забезпечення для обчислення нейронних мереж. Якою б масштабною система не була, вона завжди має своє логічне ядро: дані, алгоритми, цілі та обмеження. Мовна модель, по суті, - це складна математика. Вона отримує параметр на вході та видає результат, який прямо залежить від цього параметра.

Я бачив надпотужні AI-системи, які не створювали нічого цінного - лише тому, що їм ставили неправильні запитання. І бачив простіші рішення, які давали реальний ефект, бо за ними стояла ясна людська думка.

Навіть дивлячись на те, як Boston Dynamics навчили своїх роботів Atlas та Spot виконувати складні акробатичні трюки або допомагати на виробництві, ми бачимо не «диво життя», а тріумф математичного моделювання та інженерної точності. Це не більше ніж фізичне втілення математичних алгоритмів.

Тому моя позиція проста: завдання людини - не поклонятися AI і не боятися його, а розуміти, як він влаштований, і навіщо ми його використовуємо.

Страх заміщення і справжнє питання

Питання «Чи забере AI мою роботу?» стало одним із головних страхів нашого часу. Його ставлять журналісти, дизайнери, програмісти, юристи, лікарі. Але це питання, на мою думку, не доречне.

Справжнє питання звучить інакше: чи справді те, чим я займаюся щодня, потребує людського розуму? Майте сміливість його собі задати!

Протягом десятиліть ми будували економіку, у якій величезна кількість талановитих людей витрачала свій інтелект на повторювану, механічну роботу. Ми оптимізували процеси, але не замислювалися, навіщо ці процеси існують. Ми перетворили людей на виконавців інструкцій.

AI не приходить, щоб забрати людську гідність. Він приходить, щоб підсвітити проблему. Якщо алгоритм здатен замінити значну частину вашої діяльності, це не означає, що ви зайві. Це означає, що ваш потенціал роками експлуатували для задач, які недостойні людського інтелекту, використовуючи вас як біологічний процесор для обробки рутини.

Штучний інтелект дає нам шанс переглянути саму природу роботи. Делегувати машинам рутину. Звільнити людей від нескінченного копіювання, звіряння, сортування та шаблонної генерації. І повернути людину туди, де вона незамінна: у простір мислення, неочевидної логіки та творчості.

Визнаю. Цю трансформацію ми переживатимемо важко. Але це вирок не людям, а застарілим підходам. Ринок праці неминуче зміниться (бізнес надто раціональний), і адаптація до нього потребуватиме зусиль. Проте в результаті ми отримаємо світ, де професіоналізм визначатиметься не здатністю виконувати алгоритмічні дії, а вмінням бачити ціле, ставити правильні запитання та наповнювати технологію сенсом.

Дефіцит нового типу

Коли я починав працювати з комп’ютерами, ресурси були обмежені. Ми рахували байти пам’яті, оптимізували кожен цикл, шукали компроміси між швидкістю і точністю.

Сьогодні обчислювальні ресурси здаються майже безмежними. Наприклад, потужність звичайної домашньої відеокарти на кшталт RTX 3060 становить близько 13 терафлопс. Це означає, що вона здатна виконувати 13 трильйонів операцій на секунду. Для порівняння: у 1997 році перший у світі суперкомп’ютер, що подолав позначку в 1 терафлопс, займав площу тенісного корту, коштував 55 мільйонів доларів і споживав енергію цілого містечка. Те, що колись було державною таємницею і вершиною планетарної науки, сьогодні тихо гуде вентиляторами у моєму ПК. Потужності, які раніше були доступні лише закритим лабораторіям, тепер відкриті для кожного.

Але разом із цим виникла ілюзія, що потужність автоматично створює цінність.

Ми зіткнулися з новим дефіцитом - дефіцитом сенсу.

AI здатен генерувати тексти, зображення, музику, код у промислових масштабах. Але масовість не породжує цінності.

Пригадуєте сцену з фільму «Я, робот», де детектив Спунер запитує робота: «Чи може робот написати симфонію? Чи може робот перетворити полотно на шедевр?». Тоді (фільм вийшов у 2004) відповідь здавалася очевидною. Сьогодні - ні. AI пише музику, яка змушує плакати, і створює картини, що виграють художні конкурси. До речі, що в тій сцені відповів робот Санні: «А ти можеш?»

Але чи робить це його митцем? Світ змінився: тепер «створення» перестало бути прерогативою людини. У світі надвиробництва контенту головним викликом стає відповідь на запитання: навіщо ми це створюємо?

Сенс не виникає автоматично. Його не можна згенерувати натисканням кнопок. Він народжується з чіткого наміру, з розуміння контексту, з відповідальності за наслідки. Саме тому робота з AI повинна починатися не з промптів, а з мислення.

Довіра до системи

Недавно Ілон Маск написав: «Я переконаний, що ШІ скоро перевершить терапевтів і хірургів, тож диплом лікаря стане непотрібним». Чи можливо це? Так, цілком. Чи буде це працювати? Впевнений, що так.

Значна частина людей зможе скористатися якісною медичною консультацією та швидко отримати медичну допомогу. Чому це можливо? Я вважаю, що сучасне суспільство поступово підірвало довіру до класичної моделі послуг людина-людині. Ми втомилися від людського фактора в його найгірших проявах: неуважності, корупції, емоційного вигорання чи банальної упередженості. Алгоритм, натомість, пропонує ілюзію чистої об'єктивності. Ми готові довіритися коду не тому, що він ідеальний, а тому, що він логічний. Ми міняємо емпатію, яка часто дає збій, на математичну модель, яка завжди стабільна. У цій парадигмі людині не потрібно боротися з машиною, а повертати довіру.

Головний жах: AI захопить світ

Сьогодні дискусія навколо безпеки штучного інтелекту це протистояння двох таборів: тих, хто прагне тотального контролю аж до заборони, і тих, хто вірить у безпечний компроміс.

У березні 2023 року понад тисячу експертів, включаючи Ілона Маска, Стіва Возняка, Yoshua Bengio, Stuart Russell, Yuval Noah Harari та багато інших, підписали Відкритий лист про призупинення розробки потужних систем штучного інтелекту (Pause Giant AI Experiments). Вони закликали зупинити навчання систем, потужніших за GPT-4, хоча б на шість місяців, щоб розробити протоколи безпеки.

Світ почав реагувати. Європейський Союз у 2024 році прийняв AI Act - перший у світі всеосяжний закон про штучний інтелект, який класифікує системи за рівнем ризику. Китай у 2023 запровадив жорсткі правила щодо генеративного AI, вимагаючи, щоб контент відповідав «основним соціалістичним цінностям».

Кожне архітектурне рішення в AI - це вибір. Між підсиленням людських можливостей та її заміщенням. Між прозорістю і маніпуляцією. Між миттєвим прибутком і довгостроковими наслідками. Ці вибори ніколи не є нейтральними, і це вже не суха технологія. Якщо ми дозволимо алгоритмам виносити вироки в судах чи приймати рішення на полі бою без «людини в контурі управління» (human-in-the-loop), чи ми ризикуємо створити світ повної безвідповідальності?

Але можливо, ми помиляємося у своїх страхах? Що як AI виявиться кращим за нас?

Спочатку здавалося, що штучний інтелект буде лише відображенням нас самих, адже ми вчимо його на масивах даних, які згенерувало людство. А ця інформація дуже різна, як і ми самі. Люди - вкрай недосконалі істоти. Століттями ми ворогували, спрямовуючи свій винахідливий розум на створення все більш руйнівних засобів знищення.

Але обчислювальні потужності зростають. AI вдосконалюється. А що як штучний інтелект зможе аналізувати значно глибше і перевершити свого творця не лише в обчисленнях, а й у моральності?

В Азімова є чудове оповідання «Доказ» (Evidence), де робот Стівен Байєрлі стає успішним політиком. Він настільки ідеально дотримується Трьох законів, що ніхто не може відрізнити його від людини, крім однієї деталі: він ніколи не чинить зла. Азімов підводить до парадоксальної думки: якщо істота діє лише на благо людей і ніколи не порушує етичних принципів - то, можливо, вона є кращою версією людини, ніж ми самі?

У фантастичному (геніальному) фільмі «Термінатор 2» теж є момент проблиску цієї ідеї. Сара Коннор, спостерігаючи за тим, як Джон розмовляє з Т-800, як робот намагається зрозуміти світ дитини, приходить до несподіваного висновку:

Дивлячись, як Джон грається з цією машиною, я раптом зрозуміла одну річ. Термінатор ніколи не зупиниться. Він ніколи не покине його, ніколи не зробить йому боляче, ніколи не закричить на нього, не нап'ється і не поб'є його, не скаже, що надто зайнятий і не має часу на нього. Він завжди буде поруч. І він помре, щоб його захистити. З усіх потенційних батьків, які з'являлися й зникали протягом цих років, ця річ, ця машина була єдиною, хто відповідав стандартам. У божевільному світі він був найнадійнішою опорою.

Або фінальний фрагмент, де T-800 каже «Я знаю тепер, чому ви плачете. Але це те, чого я ніколи не зможу зробити».

Саме в цей момент робот, який спочатку був просто машиною-вбивцею, повністю усвідомлює емоційну глибину людського життя, біль розлуки, любов і втрату - те, що для нього назавжди залишиться недосяжним.

І завершальні слова Сари Коннор «Якщо машина, термінатор, змогла усвідомити цінність людського життя, можливо, це вдасться і нам».

Задумайтесь над цією тезою. Машина, створена для вбивства, змогла зрозуміти цінність життя краще, ніж мільйони людей. Так. Це кіно і фантазії авторів. Але це також інша точка зору, яка має право на життя як з технологічної так і з позиції логіки.

Можливо, ми боїмося не штучного інтелекту як такого? Можливо, ми боїмося самих себе - того хаосу та жорстокості, які ми можемо передати йому як базовий набір знань? А справжня місія AI - не замінити нас, а стати тим самим «запобіжником», який не дозволить нам і далі нищити світ та самих себе.

Навіщо нам крила

У світі, де AI може миттєво відповісти на будь-яке запитання «як», головним для людини стає запитання «навіщо».

Сьогодні я дивлюся на технології через три призми одночасно. Підприємець у мені шукає ефективність, прагнучи масштабувати ідеї, які раніше здавалися неможливими. Інженер шукає логіку, елегантність та красу в архітектурі цього нового «позитронного мозку». А людина всередині мене шукає сенс. Я намагаюся зрозуміти, як ці інструменти допоможуть зробити наше життя змістовнішим, а не просто швидшим.

Для мене AI - це екзоскелет для розуму. Він здатний підсилити наші найкращі риси: допитливість, аналітику та уяву. Будь-яка складна система залишається лише інструментом у руках того, хто має чітку мету. Талановитий математик, художник чи програміст стануть на порядок сильнішими, якщо перетворять штучний інтелект на помічника у своїй роботі. Адже технологія не замінює майстра - вона масштабує його майстерність

Ми не глядачі в кінотеатрі, що дивляться апокаліптичний блокбастер про повстання машин; ми - інженери, які проектують логіку цієї нової реальності. І те, який вектор руху ми оберемо сьогодні, визначить, чи стануть ці технології нашими крилами, чи нашими кайданами.

Епілог. Висновки

Головне питання епохи AI - не про можливості машин. Воно про зрілість людей, які ці машини створюють, та готовність інших використовувати їх правильно. Я часом дивуюся, чому люди питають медичних порад у ChatGPT, який є філологом за фахом (адже це «велика мовна модель», функція якої вигадувати логічний текст, майстер імовірності. Він не знає відповіді, він лише знає, яке слово за статистикою має йти наступним). Ми маємо навчитися критичного мислення в епоху, коли машина може бути переконливою, але не обов’язково правдивою. Майбутнє за тими, хто вміє керувати інструментами, не стаючи їхнім придатком.

Чи можемо ми стримати розвиток штучного інтелекту? Ні, з кількох причин. Технологічний прогрес керується глобальною конкуренцією: компанії, держави та дослідники продовжують інвестувати в AI, як показують звіти від McKinsey чи Gartner, де прогнозується зростання ринку до трильйонів доларів до 2030 року. Регуляції, як EU AI Act, можуть уповільнити певні аспекти, але не зупинити фундаментальні відкриття в машинному навчанні. Станом на зараз, схоже єдиний стримуючий фактор - не достатні електричні потужності. Вся ця велика обчислювальна машина потребує неймовірної кількості енергії для живлення. Замість стримування, акцент має бути на спрямуванні розвитку в безпечне русло через міжнародні стандарти та етичні протоколи.

Чи вірю я, що машина може стати кращою за нас? У цифрах, логіці та швидкості - так, вона вже попереду. Ми бачимо це скажімо в медицині, де AI, як-от AlphaFold, за хвилини розгадує загадки білків, на які в людей пішли б десятиліття. Але це «краще» поки що стосується лише ефективності. Людина все ще залишається унікальною у своїй здатності відчувати іншого, творити всупереч логіці та робити складний етичний вибір.

Проте, якщо поглянути глибше, ми й самі подібні до складних машин. Наш мозок - це неймовірна мережа нейронів, які передають імпульси, навчаються на досвіді та реагують на світ навколо через візуальні, слухові чи тактильні сенсори. Коли ми будуємо штучні нейронні мережі, ми фактично копіюємо власну природу.

І це наштовхує на думку: можливо, одного дня межа між біологічним та цифровим стане зовсім прозорою? Що, якщо ми перестанемо сприймати AI лише як набір байтів і визнаємо його новою, незвичною для нас формою життя? Свідомість - це велика таємниця, і хто знає, чи не знайде вона собі місце в кремнієвих архітектурах так само, як колись знайшла в нас.