Розділ «Частина третя Загибель Уранії »

— Ну, то зараз побачимо.

«Крихітка» продовжувала свою справу. Швидко й упевнено вона розбирала машину на складові частини, пошкоджені деталі викидала геть, а придатні — дбайливо сортувала. За якусь годину від складної злагоди лишився голий металевий кістяк та купи залізяччя, дротів, пластмаси.

Власне, нічого незвичайного в діях «Крихітки» досі не було. Ще при побудові інженер Дейв вклав у електронну пам'ять споруди програму демонтажу першої-ліпшої машини за спеціальним наказом. Але що ж вона робитиме далі?

«Крихітка» завмерла. Здавалося, вгамувавши жадобу руйнування, вона заспокоїлась. Проте мікрофони доповіли: реле-перемикачі споруди клацають дедалі інтенсивніше, а на дубляжній схемі в кабіні спостереження індикатори кожної ділянки електронного мозку злагоди сяють яскраво. Який процес аналізу й синтезу відбувається зараз у ньому? Які нові команди записуються на барабани пам'яті? Визначити це вже не можна. Споруда вийшла з-під контролю свого творця, вона — «збожеволіла».

Ні, машина не мислить і свідомості не має. Та хіба є свідомість у хробака чи комахи? А вони ж виконують складні цілеспрямовані дії, породжені й удосконалені важким і тривалим процесом еволюції. То, може, і машинні рефлекси кібернетичної «Крихітки» зараз перебудовуються в напрямку найбільшої доцільності?

Інженер Дейв сподівався чогось надзвичайно хорошого. Але самостійно вироблена програма електронного мозку споруди була просто неймовірною: «Крихітка» почала розбирати сама себе. Гайковерти та клешні-затискачі зняли захисний кожух апаратури, в схему посунулись сяжки, обладнані електричними паяльниками.

На дубляжній схемі в кабіні спостереження один по одному згасали індикатори каскадів злагоди. Їх понад п'ятдесят тисяч, і втрата кількох десятків з загальної кількості ще нестрашна. Але ж, кінець кінцем, настане мить, коли електронний мозок зазнає непоправної шкоди… Що ж буде тоді?

Два протилежні почуття борються в душі інженера Дейва: бажання довести до кінця незвичайний експеримент і побоювання за злагоду, на побудову якої витрачено так багато зусиль. Коли б не директор інституту, конструктор давно б уже припинив оце саморуйнування машини.

— Професоре!.. — Дейв схопився, стиснув кулаки. — Далі не можна чекати… Вона добирається до кнопки «Стоп»!

— Мовчіть! Пильнуйте! — директор такий збуджений, що втратив свою звичайну витримку. — Дивіться і запам'ятовуйте на все життя! Зараз у цьому боксі народжується машина вищого класу — «Машина Дейва».

Дейв сердито засопів, але не заперечив. Це — загибель «Крихітки». Досить їй вимкнути кнопку «Стоп!», ту ділянку електронного мозку, яка блокує всю схему, і споруда вийде з-під контролю людини повністю. Енергії атомного реактора вистачить «Крихітці» надовго. Вона робитиме все, що їй заманеться, не підпустить до себе нікого. І її доведеться, кінець кінцем, знищити.

— Нічого не розумію, професоре… — збентежено сказав Дейв. — Я породив механічного хижака. Хибність конструкції «Крихітки» — безперечна…

— Яку програму ви дали «Крихітці»? За всяку ціну боротися за своє, так би мовити, існування? Це означає: усувати всі перешкоди, протистояти всякому небажаному впливу. Кнопка «Стоп!» для електронно-обчислювальної злагоди — найсильніший небажаний подразник. Яку б програму не виробив її електронний мозок, ви можете в першу-ліпшу мить втрутитись і порушити весь хід машинних рефлексів. Тож чи не природно, що, кінець кінцем, процес логічного аналізу привів «Крихітку» до висновку про необхідність викинути кнопку «Стоп!»?

— Розумію, професоре! — Дейв кинувся до схеми, гарячково перебіг очима основні вузли. — Отже, коли так, «Крихітка» з часом розвиватиметься, так би мовити, розумнішатиме?

— Гай-гай… — професор з жалем похитав головою. — Мабуть, вона так і лишиться хижаком, бо ви прирекли її на таку долю… Чого можна чекати від неї в майбутньому? Хіба того, що набуті нею примітивні машинні рефлекси удосконаляться до найвищого ступеня, та й годі.

— То що ж робити?

— Та що ж… — професор замислився. — Треба підвищувати «інтелект» машини. П'ятдесят сім тисяч каскадів — ніщо. Їх потрібно мати хоча б мільйон. При такій кількості елементів «егоїзм» злагоди вашого типу стане доцільним. Але ж ви розумієте самі: зараз це — неможлива річ. Обсяг і вага електронного мозку машини перейдуть всякі межі. Монтаж перетвориться на майже нездійсненну справу. Навіть коли використати друковані схеми каскадів, їх доведеться з'єднувати неймовірним плетивом дротів…

Уже давним-давно пішов директор інституту, порозходилися працівники лабораторії, а Дейв усе ще сидів у кабінеті спостереження, задумливо дивлячись у просторінь. Піднесення, яке охопило його після несподіваної похвали вчителя, було короткочасним і поступово змінилось пригніченням. Учитель поквапився з висновком. «Машини Дейва» ще немає, і невідомо, коли вона буде.

Інженер поглянув в ілюмінатор. Бідолашна «Крихітко», які ще машинні рефлекси снуються зараз у твоєму примітивному електронному мозку? Яка шалена програма дій записується на твоїх барабанах пам'яті?

«Крихітка» мовчала. Вона була всього-на-всього електронним пристроєм для розв'язування логічних задач. Хоч якими доцільними видаються її ідеї, мислити ця споруда не може. За неї мислив свого часу інженер Дейв. Його думка знайшла втілення в кібернетичній конструкції і продовжує жити в ній, набуваючи зовсім несподіваного й небажаного напрямку.