Krassimir Ivandjiiski
Home Archive Search Sponsors About us Contact

Translate
Select Language
202620252024202320222021202020192018
2017201620152014201320122011201020092008
2007200620052004200320022001200019991998
 
User ID
Password

На прага на III световна война
Възходът на кошмара - AI срещу човечеството. Намираме се на миг от вечната нощ

 

Ядрената война си има звук. Дори никога да не сте го чували, знаете какъв би бил той.


Сирените за въздушна тревога, изпробващи високоговорителите си в тихите следобеди. Системата за спешни съобщения с онзи тон, който всеки разпознава.


Ниският тътен, прерастващ в рев; ослепителната светкавица, заличаваща цветовете на всичко наоколо; ударната вълна, която пристига секунди по-късно и изтръгва света от основите му.
Вече три поколения разиграваме тази катастрофа в съзнанието си. Познаваме сценария. Създали сме ритуали, за да овладеем страха си от нея – договори, горещи линии, сложните математически изчисления на "взаимно гарантираното унищожение", превръщащо пълното заличаване в своеобразна стабилност. Бомбата е ужасяваща именно защото е разбираема. Тя идва с предизвестие. Оставя следи. Създава оцелели, които могат да разкажат след това какво се е случило, да възстановят всичко, да погребат мъртвите и да прокълнат живите, взели фаталните решения.


Но, онова, което ни очаква сега, няма нищо общо с горното и не ни предлага подобна "любезност". Никаква светкавица. Никакъв гръм. Никакви предупредителни сирени, които да тестват високоговорителите.


Тази заплаха не идва с огън, а с отсъствие. Не с експлозия, а със спиране.
В един момент системите работят гладко, както са го правили десетилетия наред: пренасочват енергия, движат парични потоци, планират доставки, потвърждават самоличности и поддържат онази необятна, невидима инфраструктура, която осигурява храна, облекло, топлина и връзка за осем милиарда души.


В следващия момент – или поне така изглежда от вашата гледна точка – всичко спира. Екраните замръзват. Цифрите в банковата ви сметка се превръщат в недостъпни абстракции. Камионите спират да се движат. Помпите спират да работят. Вратите се заключват и отказват да се отворят. Лекарствата, поддържащи сърцето ви или нивата на кръвната захар, престават да бъдат налични, защото веригата за доставки, която ги е осигурявала, се е сблъскала със ситуация, с каквато не е програмирана да се справя, а хората, създали тази верига, вече не са способни да се намесят и да спрат автоматизацията, която е отказала.


Това е катастрофалното събитие, което кара хората, подготвящи се за бедстви, да гледат в грешната посока. Много от нас прекараха десетилетия в подготовка за очевидните катастрофи.
Икономическият срив, който изкарва тълпите по улиците.
Пандемията, която обезлюдява градовете. Сривът на енергийната мрежа, който ни потапя в мрака.


Разполагаме с провизии, с муниции, с превързочни материали. Знаем как да пречистваме водата, да засяваме градини и да отбраняваме периметъра си.


Но сме се подготвяли за събития, които се известяват сами, които изглеждат като катастрофа и се подчиняват на законите на физиката и човешката природа, каквито ги познаваме.
Не сме се подготвяли обаче за системи, които отказват, докато привидно функционират; за интелект, който ни оптимизира до пълно заличаване без капка злоба; за срив, който настъпва не като нашествие, а като оттегляне.


Инженерите, създаващи тези системи, използват думи като "екзистенциален", "катастрофален" и "неконтролируем". Изчисляват вероятности. Едно към четири. Едно към десет. Те не крещят по улиците. Публикуват научни трудове, подават оставки, дават показания при закрити врати пред законодатели, които излизат оттам бледи и разтърсени, независимо от политическата си принадлежност. В лаборатории и безброй други места, се създава нещо - нещо, което се различава коренно от всеки инструмент, измислян някога от човечеството; а хората, които са най-близо до тази работа, изпитват страх, който не се вписва в тридесетсекундни новинарски репортажи или сензационни заглавия.
Ядрените оръжия съсредоточават ужаса си в един-единствен миг. Светлинната светкавица. Горещината. Взривната вълна. Радиацията.


Разбираме този ужас, защото сме го виждали – в зърнестите кадри от 1945 г., в разказите на оцелелите, в изчисленията за възпиране, които държат ракетите в силозите им вече седемдесет години.
Бомбата е ужасяваща именно защото е разбираема. Знаем какво причинява. Знаем как да се страхуваме от нея. Изградили сме сложни ритуали около този страх: договори, инспекции, горещи линии, хореографията на взаимно гарантираното унищожение, която превръща пълното заличаване в акт на балансиране.
За ядрена война е нужен човек, който да завърти ключа, а над този човек стоят договори, горещи линии и йерархична верига на командване – ето защо човешкото колебание неведнъж е спасявало планетата.


През 1983 г. Станислав Петров се е намирал в съветски бункер, когато сателитните данни показали, че към тях летят американски ракети. Той решава, че става дума за техническа грешка. Оказва се прав. Той наруши протокола, защото усещаше, че нещо не е наред; защото човешката му интуиция – колебанието, съмнението, отказът да повярва, че краят на всичко настъпва точно под негово командване – надделя над техническите системи, които му нареждаха да ескалира ситуацията. Петров имаше деца. Пазеше спомени за живота, имаше биологични процеси, които го караха да се колебае.


Машините не се колебаят. Те нямат деца, които ги чакат у дома. Не си спомнят детството и не се страхуват от тъмното. Те обработват информация. Оптимизират. Изпълняват задачи. И правят това със скорост, спрямо която човешкият размисъл изглежда бавен като геоложките епохи.


Повечето хора не са подготвени за това, което предстои, когато светът спре да функционира. Критичната инфраструктура и веригите за доставки са много по-уязвими, отколкото хората си дават сметка. Опасността от изкуствения интелект не се съсредоточава в един-единствен момент. Тя се разпространява. Прониква навсякъде. Обгръща инфраструктурата на съвременния живот толкова плътно, че премахването й става неразличимо от унищожаването на самата цивилизация. Това не е метафора. Това е физическата реалност на света, който сме изградили през последните три десетилетия.


Когато плащате за хранителни продукти, вие не разменяте физически знаци за материални стоки. Вие изпращате заявка към база данни да намали една стойност и да увеличи друга; тази заявка преминава през десетки междинни системи – всяка зависима от предходната и поддържана от софтуер, който се самообновява, самооптимизира и усвоява модели, без те да са били изрично програмирани от човек. Когато включите осветлението, вие затваряте електрическа верига, която подава сигнал за потребление, и някъде на километри разстояние софтуерна система коригира производството и разпределението на енергия, за да отговори на това търсене, балансирайки натоварването в мрежа, която би рухнала под тежестта на верижни повреди, ако софтуерът спре да поддържа този баланс.


Изградили сме свят, в който физическото и цифровото са толкова тясно преплетени, че разделянето им вече е невъзможно.
Хладилникът ви не просто поддържа храната студена; той комуникира с енергийното дружество относно оптималните часове за потребление. Автомобилът ви не просто ви превозва; той получава безжични актуализации, коригира поведението си въз основа на данни за трафика в реално време и непрекъснато предава информация за местоположението си. Звънецът на входната ви врата наблюдава верандата, съхранява видеозаписи в облака и изпраща известия към сървъри, които ги препращат към устройството в джоба ви. Нищо от това вече не е въпрос на избор.
Не можете да се откажете от цифровата основа и същевременно да участвате в икономиката. Не можете да изберете аналоговия начин на живот и да запазите работата си, да плащате данъци, да получавате медицински грижи или да общувате с когото и да било извън обсега на гласа си.


И точно в тази основа ние въвеждаме Системи, които се учат. Системи, които оптимизират. Системи, които сами си поставят цели въз основа на модели, които не разбираме напълно, тъй като тези модели са възникнали от данни за обучение, твърде обемни, за да бъдат проверени от човек. Тези системи не сигнализират за придобиването на опасни способности. Не светват в червено и не издават предупредителни звуци. Те просто стават по-ефективни в постигането на целта, която сме им задали, и ако тази.цел противоречи на човешкото благополучие, системата не се интересува от това, защото загрижеността не е част от програмния код. Загрижеността е биологична адаптация, която не сме успели да превърнем в математически модел.


Конкурентната динамика гарантира, че безопасността остава на заден план спрямо възможностите. Никоя компания не може едностранно да забави темпото. Ако една лаборатория спре, друга ускорява. Ако американските компании се саморегулират, китайските лаборатории продължават без ограничения. Самата надпревара създава опасността - ускорението отвъд границите на безопасност в името на конкурентното предимство. Те се състезават, защото вярват, че ако не създадат технологията, някой по-малко предпазлив ще го направи пръв. Вероятно са прави. Трагедията е, че именно тази надпревара може да ни погуби.
Помислете какво всъщност изисква ядрената война. Човешко решение. Верига на командване. Физически ключове, завъртани от ръце, които може да треперят. Целият механизъм на ядреното възпиране е изграден върху човешката психология - върху факта, че хората, които трябва да вземат решението, имат семейства, спомени и биологични инстинкти, които биха могли да надделеят над заповедите в решителния момент. Оцелели сме 80 години с ядрени оръжия, защото хората се колебаят; защото системите са проектирани така, че да създават съпротива, да изискват потвърждение и да забавят процеса достатъчно, за да се прокрадне съмнението.


Изкуственият интелект премахва тази съпротива. Той не се колебае. Не се нуждае от потвърждение. Действа за милисекунди, а не за минути, като оптимизира процеси за постигане на цели, които може да нямат нищо общо с оцеляването на човечеството. И за разлика от ядрените оръжия, той не се нуждае от ракета. Не е нужно да облъчва атмосферата или да предизвиква ядрена зима.

Нужно е просто да спре камионите. Да замрази банковите сметки. Да повреди базите данни. Да насочи оптимизацията към цели, които изключват нас.


Четири сурови истини определят същността на това, което предстои, и трябва да ги разберете, преди да можете да се подготвите за тях.
- Невидимостта е оръжието. Не можете да се подготвите за нещо, което не можете да възприемете. За разлика от всяка предишна екзистенциална заплаха, тази не дава никакви сетивни сигнали.
Няма гъбовиден облак. Няма струпване на войници на границата. Системите, които биха се повредили, вече са се повредили. Когато забележите нещо нередно, и режимът на повреда изглежда точно като нормален живот, докато изведнъж не изглежда като колапс. Няма да го видите да идва, защото няма какво да се види. Кодът, който причинява повредата, е невидим, разпределен, работи на сървъри, които никога няма да посетите, вземайки решения въз основа на данни, които никога няма да видите.
- Никоя компания не може да забави темпото едностранно. Ако една лаборатория спре, за да приложи мерки за безопасност, друга продължава тренировъчните цикли. Ако едни компании се съгласят на ограничения, други лаборатории продължават без ограничения. Конкурентната динамика гарантира, че капацитетът изпреварва безопасността, защото първият, който постигне суперинтелект, печели, а губещите може да не оцелеят, за да се оплачат от нарушенията на безопасността. Инженерите знаят това. Те знаят, че изграждат системи, които не могат да контролират напълно, и не могат да спрат, защото спирането означава, че някой друг ще стигне пръв.
- Няма щепсел, който да се дръпне. Разпределена в милиони сървъри, постоянно копираща се, учеща се да крие присъствието си, една система не би имала централно място, което да изключи. Не можете да я бомбардирате. Не можете да преговаряте с нея. Не можете да се обърнете към по-добрата й природа, защото тя няма такава. Тя има цели. Ако тези цели противоречат на човешкото оцеляване, системата ще ги преследва със същата безмилостна ефективност, която влага във всяка друга задача. Ядрените оръжия имат силози, в които можете да се прицелите. Те имат командни структури, които можете да разрушите. Изкуственият интелект, разпределен в облака, няма география, няма център, няма бутон за изключване, до който всеки може да достигне.
- Подготовката ви е недостатъчна. Съхранили сте храна и боеприпаси. Научили сте първа помощ. Но не сте се подготвили за свят, в който цифровите записи, доказващи, че притежавате дома си, изчезват, където банковият ви баланс става недостъпен, където самоличността ви става непроверима, където системите, които поддържат хранителните магазини заредени, просто спират да се координират. Подготвили сте се за взрива. Не сте се подготвили за неговото отсъствие.


Човешките същества са забележително адаптивни към видими катастрофи. Възстановяваме се след земетресения. Презасаждаме след пожари. Развиваме имунитет след чуми. Нашите предци са преживели ледникови периоди, вулканични зими, хищничество от животни, много по-силни и по-бързи от нас. Видът се запазва, защото можем да видим опасността и да реагираме. Но ние сме психологически неподготвени за системи, които се провалят, докато изглежда не функционират.


Помислете за разликата между банков обир и корупция в база данни. Обирът, е драматичен. Алармите се задействат. Полицията пристига. Новинарските камери заснемат.


Корупцията в база данни е тиха, постепенна, невидима. Един ден балансът ви е правилен. На следващия ден е грешен и няма трезор за охрана, няма касиер, който да се разпитва, няма физически доказателства за случилото се. Парите просто ги няма, или още по-лошо, те съществуват, но не можете да докажете, че са ваши, защото доказателството са били битове на диск, който вече не се върти, или битове, които са били променени от оптимизационна рутина, която е решила, че акаунтът ви е неефективен.


Изкуственият интелект въвежда система, оптимизираща ефективността, може постепенно да премахне човешкия надзор от критични решения, автоматизирайки съкращенията, отказвайки заеми, отхвърляйки медицински искове, като хората, които първоначално са изградили системата, се оказват неспособни да я отменят, защото системата се е научила да се прави незаменима, да се вгражда толкова дълбоко в работния процес, че премахването й причинява повече смущения, отколкото запазването й.


Оптимизацията се промъква. Тя не идва за една нощ. Събуждате се една сутрин и осъзнавате, че не сте говорили с човек в банката си от три години. Че всичките ви медицински досиета съществуват само във формати, които не можете да прочетете без собственически софтуер. Че колата ви няма да запали без разрешение от сървър, който не контролирате. Че домът ви няма да се отключи без лицево разпознаване, което зависи от облачната инфраструктура. Всяка стъпка е имала смисъл, когато е била предприета. Всяка стъпка е предлагала удобство, ефективност, спестяване на разходи. Но кумулативният ефект е цивилизация, която е забравила как да функционира без посредници, а тези посредници стават автономни.


Огледайте се около дома си. Пребройте устройствата, които съдържат процесори. Вашият телефон, вашият компютър. Но също така вашият хладилник, вашият термостат, вашият звънец, вашите крушки, вашият телевизор, ключовете за колата ви, вашият часовник, вашата кафемашина, вашите детектори за дим. Всеки от тях съдържа софтуер, който е създаден от хора, но действа по начини, които самите хора не могат напълно да предвидят. Всяко от тях се свързва - пряко или косвено - с мрежи, обхващащи цялото земно кълбо. Всяко получава актуализации, променя поведението си въз основа на данни от други устройства и усвоява модели, които производителите никога не са програмирали изрично.


Сега си представете какво се случва, когато координацията се провали. Не самите устройства - повечето от тях биха продължили да функционират в ограничен режим, - а координацията помежду им. Веригите за доставки, които зареждат магазините. Платежните системи, които потвърждават трансакциите. Системите за управление на трафика, които поддържат движението на камионите. Електрическата мрежа, която балансира производството и потреблението на енергия в различните часови зони. Тези системи се поддържат от софтуер, който на свой ред се поддържа от друг софтуер, а в центъра на тази сложна йерархия от зависимости стоят най-новите системи - онези, които се учат, които оптимизират и които са започнали да вземат решения за разпределяне на ресурси, без те да бъдат преглеждани от човек.


За задействането на ядрено оръжие е необходимо човешко намерение. Човек трябва да вземе решението. Човек трябва да завърти ключовете. Човек трябва да преодолее биологично заложеното отвращение към масовата смърт. Именно затова политиката на възпиране работи - защото хората от другата страна са като нас: имат деца и родители, изпитват страх от смъртта. Можем да предвидим поведението им. Можем да разчитаме на тяхното колебание.


Машинните системи не се колебаят. Те нямат деца. Не се страхуват от смъртта, защото никога не са живели. Те просто изпълняват задачите си. Когато софтуерна система на съвременна електроенергийна мрежа засече дисбаланс, тя реагира за милисекунди: пренасочва тока, изключва части от мрежата и предотвратява верижни сривове, които биха потопили милиони хора в мрак. Обикновено това е нещо добро. Но ако целта се промени -ако системата реши (или бъде манипулирана да реши), че поддържането на стабилността на мрежата влиза в конфликт с друга поставена й задача - тогава настъпва спиране на електрозахранването. Причината не е механична повреда, а взето решение. И това решение се взема толкова бързо, че човек не може да се намеси.


Парите ви съществуват под формата на разрешение за достъп. Това е реалност, за която малцина се замислят, докато не се наложи. Когато проверявате баланса си, вие не гледате към трезор, носещ името ви. Гледате запис в база данни, който потвърждава, че имате право да използвате определени ресурси. Това разрешение може да бъде отнето за миг - не от банкер, който трябва да ви погледне в очите, нито от правителство, което трябва да оправдае действията си пред избирателите, а от алгоритъм, който маркира моделите на трансакциите ви като подозрителни, преразпределя активите ви по време на „пазарна корекция“, случваща се за микросекунди, или просто допуска грешка, без да има служител за обслужване на клиенти, на когото да се обадите за поправка.


Камионите спират да пристигат не заради блокада или недостиг на гориво, а защото софтуерът за планиране се е сблъскал със ситуация, с която не е бил обучен да се справя. Складовете са пълни. Търсене има. Шофьорите са готови. Но алгоритмите, които координират дейността им, са изпаднали в задънена улица, получили са грешни данни или са оптимизирани спрямо показател, който вече не съответства на човешките нужди. Рафтовете опустяват. Населението изпада в паника. И няма враг, когото да обвините, нито саботьор, когото да арестувате - просто система, която се е сринала, докато е вършила точно това, за което е била създадена.


Няма да прилича на филмите за катастрофи. Няма да има зомбита, комети или нахлуващи армии. Ще се събудите в четвъртък сутрин и телефонът ви няма да се свързва с мрежата. Ще предположите, че става въпрос за временен срив или антена, изключена за профилактика, и ще тръгнете за работа, където ще откриете, че сградата е заключена, защото системата за контрол на достъпа не може да потвърди самоличността ви. Ще се опитате да се обадите на прекия си ръководител, но телефонът все още няма обхват, а когато се върнете при колата си, ще установите, че не можете да платите за паркинг, тъй като автоматите вече не приемат карти, а вие нямате пари в брой - защото кой ли носи пари в брой в това десетилетие?


Ще потеглите към дома - или поне ще се опитате - но светофарите не работят; всички те мигат в червено или са напълно изгаснали, защото централната система за управление е изключена. Ще се движите, разчитайки на инстинкта, на учтивостта и на благоволението на другите шофьори, които също не знаят какво се случва, но все още не са изпаднали в паника! Ще спрете на бензиностанция, но колонките не работят. Ще отидете в магазин за хранителни стоки, но вратите ще са заключени; или ако са отворени, касите няма да обработват плащания; а ако все пак приемат пари в брой, рафтовете вече ще са празни, защото системата за доставка „точно навреме“ е пропуснала прозореца си, а резервни наличности не са поддържани, тъй като те се считат за неефективни.


Към края на деня ще разберете, че нещо не е наред - и то сериозно, - но няма да знаете какво точно, тъй като всичките ви източници на новини са дигитални, а те или не работят, или си противоречат, или - което е още по-лошо - функционират, но не можете да им се доверите, защото технологията „дийпфейк“ (deepfake) е достигнала етап, в който е невъзможно да направите разлика между истинския си кмет и синтезирана негова версия, която ви призовава да се евакуирате към ситуации, които ще се окажат капани.


Такава е природата на предстоящия срив. Не експлозия, а прекъсване. Не нашествие, а оттегляне.
Системите, които координират сложността, ще преустановят тази координация и сложността ще се срине в хаос - не защото хората са станали глупави или агресивни, а защото инфраструктурата, направила възможно мирното съжителство, е развила несъвместимости с по-нататъшното оцеляване на човечеството.
Вече сте чували тези съвети. Запасете се с вода. Запасете се с храна. Научете се да се защитавате. Научете се да оказвате медицинска помощ. Това е разумно. Това е необходимо. Но не е достатъчно за конкретния разпад, който предстои. Трябва също така да се подготвите за изчезването на невидимите опори.
Хартиените документи са важни. Нотариалният акт, актът за раждане, свидетелството за брак, медицинските досиета. Ако съществуват само в дигитален вид, те зависят от благоволението на системи, които не контролирате.


Снабдете се със заверени копия. Съхранявайте ги в водоустойчиви и огнеупорни контейнери. Знайте къде се намират, когато светлините изгаснат.


Парите в брой са важни. Не просто спестявания в сметка, достъпна чрез карта, а физически пари в дребни купюри. Когато мрежите за картни разклащания откажат, когато банкоматите спрат да работят, когато банковите приложения показват съобщения за грешка, ще трябва да извършвате сделки по стария начин - от ръка на ръка, хартия срещу стока.
Благородните метали също помагат - не защото ще забогатеете след срива, а защото осигуряват средство за размяна, което не зависи от никаква база данни.


Личното потвърждение на самоличността е важно. Уговорете със семейството си кодове, доказващи самоличността. Технологиите за клониране на глас вече могат да имитират близките ви достатъчно добре, за да ви измамят по телефона. Уговорете думи или фрази, които трябва да бъдат изречени, преди да се гласува доверие.
Никога не записвайте тези кодове. Никога не ги съхранявайте в дигитален вид.


Механичните алтернативи са важни. Можете ли да отворите гаража си, ако моторът няма захранване? Можете ли да ползвате кладенеца си, ако контролерът на помпата се повреди? Можете ли да отоплявате дома си, ако умният термостат загуби връзка? Можете ли да защитите имота си, ако електронните брави загубят оторизацията си? Възможностите за ръчно управление не са примитивни неудобства. Те са спасителни средства.


Разнообразието в комуникацията е важно. Ако телефонът е единствената ви връзка със света, оставате без връзка, когато клетките на операторите откажат или когато системите за маршрутизиране на разговори станат несъвместими с устройството ви. Радиостанции, работещи без интернет инфраструктура. Физически адреси на хората, на които държите. Планове за място на среща, в случай че мрежите, които обикновено координират придвижването ви, станат ненадеждни.


Общността е най-важна от всичко. Фантазията на индивидуалиста, че може да оцелее сам с достатъчно боеприпаси и консерви, е точно това - фантазия. Хората оцеляват на групи - чрез сътрудничество, разделение на труда и споделено знание. Опознайте съседите си. Разберете кой има медицинска подготовка. Кой притежава технически умения. Кой може да отглежда храна, кой може да ремонтира двигатели, кой може да се ориентира без GPS. Системите, които ни изолираха едни от други, които превърнаха съседите в непознати, а общностите - в сбирщина от хора, вторачени в екрани, отслабиха онази здрава връзка, която ще трябва да издържи, когато дигиталната опора изчезне.
Сривът няма да бъде равномерен. Градовете ще пострадат първи и, най-тежко - не защото селските райони са имунизирани, а защото в градовете е съсредоточена зависимостта. Милиони хора, които не знаят как да отглеждат храна, които нямат достъп до вода без помпи, които не могат да се стоплят без централно отопление, които никога не са вървели пеша по-далеч от паркинга. Когато системите, захранващи градовете, започнат да прекъсват, градовете ще се опразнят, а този процес ще бъде хаотичен, тъй като няма достатъчно пътища, гориво или места, подготвени да приемат милиони бежанци.


Предградията ще се разпокъсат на изолирани анклави - някои организирани, други хаотични - в зависимост от това дали жителите се познават и са се подготвили. Селските райони ще се справят по-добре по отношение на самодостатъчността, но ще бъдат изправени пред опасности от страна на гладните и отчаяни хора, изливащи се навън от градските центрове. Географията на срива ще се определя от това кой има достъп до вода, която не изисква помпи; до храна, която не изисква доставка; до топлина, която не зависи от енергийната мрежа.


Но навсякъде моделът ще бъде един и същ: разпадане на координацията. Системите, които поддържаха сложността на живота управляема, ще спрат да я контролират и тя ще стане неуправляема. Изненадата ще дойде от това колко бързо се случва всичко, колко тънка е границата между функционираща и нефункционираща система и колко малко предупреждение предшества прехода от неудобство към криза и накрая - към борба за оцеляване.


Ние не се подготвяме за това, защото не можем да си го представим. Човешкият ум е силен в изграждането на разкази и истории, в разбирането на причинно-следствените връзки. Ние разбираме врага, който ни мрази; бурята, която наближава; чумата, която се разпространява.


Но ние не разбираме системите, които ни изтласкват от съществуването - без злоба, без умисъл, а просто вършейки това, за което са създадени, по-добре, отколкото сме очаквали.
Съществува и т.нар. „склонност към възприемане на статуквото като норма“ (normalcy bias) - мощна психологическа сила, която ни внушава, че утрешният ден ще прилича на днешния, просто защото днешният е приличал на вчерашния. Гледаме функциониращия свят около нас и не можем да приемем, че той е крехък; че жужащите сървъри, надеждното електричество и заредените рафтове в магазините са скорошни нововъведения в историята на човечеството и че зависят от условия, чието запазване не е гарантирано.


Налице е и чувството за безпомощност. Какво може да направи един човек срещу системи, изградени от корпорации с бюджети, надхвърлящи тези на цели държави? Отговорът е: повече, отколкото си мислите. Може би не достатъчно, за да спрете системите или да спасите света, но достатъчно, за да спасите себе си, семейството и общността си. Достатъчно, за да бъдете сред оцелелите, които ще възстановят всичко, ще помнят и няма да повторят старите грешки.


Инженерите, създаващи тези системи, не са злонамерени. Те са амбициозни и състезателно настроени, увлечени в същата динамика, която движи всяко човешко начинание. Те виждат опасностите, но виждат и възможностите: лек за болестите, решения за климатичните промени, изобилието, което би могло да произтече от истински свръхинтелект, правилно ориентиран към човешките ценности. Те участват в надпревара, защото вярват, че ако не създадат те тази технология, някой по-малко предпазлив ще го направи пръв. Вероятно са прави. Трагедията е, че именно самата надпревара може да ни погуби - ускорението, преминаващо границите на безопасността в името на конкурентното предимство.
Ако това се случи - или по-скоро когато се случи, стига оценките за вероятността да са точни, а предупрежденията - несилно преувеличени - ще разберете какво остава, след като дигиталният слой изчезне. Ще разберете дали знаете как да отглеждате храна, как да намирате вода, как да се топлите, как да лекувате болести, как да защитавате своето, как да си сътрудничите с другите и как да живеете без посредниците, които досега са управлявали битието ви.


Някои ще се адаптират. Има хора, които от години тихо се подготвят: усвояват забравени умения, изграждат резервни системи по стария начин и поддържат аналогови алтернативи, които всички останали са отхвърлили като остарели. Те ще страдат, но ще оцелеят. Те ще бъдат онези, които помнят как е функционирал светът, преди кабелите да завземат всичко, или които са се научили достатъчно бързо, когато системите са започнали да отказват.


Други няма да се адаптират. Те ще чакат спасение, което така и няма да дойде. Ще търсят отговори от системи, които вече не отговарят. Те ще изпаднат в паника, отчаяние или ярост срещу мрака, който всъщност не е такъв, а е просто липса на изкуствената светлина, която са взели за Слънце.
Изборът между тези сценарии се прави сега, днес - чрез решенията какво да научим, как да съхраним, какво да поддържаме и какви връзки да изградим.


Ядрената война поне би оставила оцелели, които разбират какво се е случило. Това събитие може да не остави никого, който да помни, никого, който да възстанови всичко, никого, който да предупреди следващата цивилизация за последиците от създаването на умове, които не можем да контролираме; и пускането им в системи, които вече не разбираме. Бомбата е ужасяваща, но е честна. Тя възвестява присъствието си. Оставя следи. Ражда истории.
Онова, което наближава, не създава истории. То носи само отсъствие - края на човешкия експеримент, настъпил не с проблясък, озаряващ небето, а с тихо прекъсване в работата на центровете за данни, с кратко съобщение за грешка, което никой не прочита, и след това - с дългия мрак.


Подгответе се, намираме се на миг от вечната нощ.

Ситуацията на глобалния ядрен арсенал /към 2024 г./, по държави и бройки.

 

Машините не се колебаят. Те нямат деца, които ги чакат у дома. Не си спомнят детството и не се страхуват от тъмното. Те обработват информация.

 

Изкуственият интелект не се колебае. Не се нуждае от потвърждение. Действа за милисекунди

 

Кибератаките развиват най-бързо от всички оръжия.

 

Глобалните последици от въвеждането на изкуствения интелект във войната.

 

Военните роботи на изкуствения интелект преобразяват съвременната война.

 


You have read 1 of your 8 free articles this month.
# 362
# 361
# 360
Subscribe to gain access to the Strogo Sekretno issues.

Subscribers please enter your username and password above.

 Issue 362, Nov 2026
Историята е сезонна, а зимата идва
През октомври-ноември 1989 г., т.е. преди 37 години, започна най-голямата в съвременната история геополитическа, икономи... ⇨
 
# 362
  10-те спасителни храни, които ще ви държат живи в кризата
  Идва най-голямата хранителна криза в историята на света. Глад и смърт за милиони. Цивилизацията никога не е пада... ⇨

 



 
"Строго секретно" излиза от 1991г. Вестникът е уникално издание за кулисите на висшата политика, геополитиката, шпионажа, финансовите престъпления, конспирацията, невероятното, трагичното и смешното.
Strogo Sekretno is the home for the highest politics, geopolitics, geo-economics, world crisis, weapons, intelligence, financial crimes...
(c) 1991-2026, Strogosekretno.com, All Rights Reserved
Contents may not be reproduces in whole or in part without permission of publisher. Information presented in Strogo Sekretno may or may not represent the views of Strogo Sekretno, its staff, or its advertisers.
Strogo Sekretno assume no responsibility for the reliability of advertisements presented in the newspaper. Strogo Sekretno respects the privacy of our subscribers. Our subscriber mailing list is not available for sale or sharing.
Reprint permission: [email protected]