VII — Где престаје вожња, а почиње друштво?

Серијал: Пут без знака — О психологији кретања у свету, којим све више управљају други

Постоје грешке после којих одмах знамо ко је одговоран.
Возач је касно закочио.
Неко је прешао разделну линију.
Неко је гледао у телефон уместо у пут.

Одговорност је годинама била везана за човека.
За његову пажњу, процену, темперамент, страх или импулс.

Али шта се дешава када грешка више нема јасно лице?

Када возило само одлучује о брзини, растојању и тренутку реакције.
Када систем процењује ризик брже него човек.
И када, упркос свему томе, ипак погреши.

Тада питање престаје да буде саобраћајно.
Постаје друштвено.

Напредак бржи од одговора

Технологија се креће брже од закона.
Одувек је било тако.

Друштво најпре направи алат, а тек касније покуша да разуме последице његове употребе.

Тако су се појавиле друштвене мреже пре него што смо разумели њихов утицај на пажњу.
Тако су настали алгоритми који обликују информације пре него што смо поставили питање ко контролише критеријуме избора.

Исто се сада дешава са аутономном вожњом.

Возила се оспособљавају да реагују у милисекундама, док правни системи и даље размишљају језиком света у којем је човек једини био за воланом.

🔗 https://www.sciencedirect.com/science/article/pii/S2590198224000198

Понекад делује као да технологија више не чека друштво да буде спремно.
Она једноставно наставља да се креће.

Ко је одговоран када систем погреши?

Ако аутономно возило изазове незгоду, ко је погрешио?

Особа која седи у возилу?
Компанија која је направила систем?
Инжењер који је писао кôд?
Или алгоритам који је „проценио“ ситуацију?

Деценијама смо навикнути да одговорност има име и презиме.
Али системи засновани на машинском учењу функционишу другачије: понекад ни сами програмери не могу у потпуности објаснити зашто је алгоритам донео одређену одлуку.

🔗 https://www.sciencedirect.com/science/article/pii/S1532046420302835

Ту настаје нова врста нелагодности.

Не зато што машине греше — већ зато што више не знамо где се грешка завршава, а одговорност почиње.

Да ли програмери треба да полажу заклетву?

Лекари полажу Хипократову заклетву.
Инжењери мостова потписују пројекте под сопственим именом.

Али шта је са људима који пишу кôд који ће једног дана доносити одлуке уместо човека?

Одлуке о кочењу.
О ризику.
О томе кога систем „штити“ у делићу секунде.

Последњих година све чешће се говори о етици софтверског инжењерства и потреби за професионалном одговорношћу у развоју AI система.

🔗 https://www.acm.org/code-of-ethics

Можда проблем није у томе што машине постају све интелигентније.
Можда је проблем што друштво још увек није одлучило колико моралне и правне одговорности жели да пренесе на људе који их стварају.

Право на контролу

Човек је вековима повезивао контролу са слободом.

Држати волан значило је доносити одлуке.
Погрешне понекад — али сопствене.

Аутономни системи нуде нешто друго: удобност без напора.
Мање стреса.
Мање одлука.
Мање ризика.

Али сваки пут када систем одлучује уместо нас, поставља се тихо питање:

Да ли и даље управљамо — или само присуствујемо?

Истраживања показују да људи у високо аутоматизованим системима постепено губе осећај активне укључености и способности брзог преузимања контроле.

🔗 https://www.sciencedirect.com/science/article/abs/pii/S0968090X13000387

Можда највећа промена неће бити техничка.
Можда ће бити психолошка.

Навикавање на свет у којем је све удобније — и све мање наше.

Огледало друштва

Аутономна возила нису само нова технологија.
Она су огледало начина на који друштво разуме моћ, контролу и одговорност.

Јер када одлуке почну да доносе системи, човек постепено престаје да пита:
„Да ли је ово исправно?“

И све чешће пита:
„Да ли је ово ефикасно?“

А управо у том померању лежи можда највећа раскрсница савременог света.

Не између човека и машине.
Већ између удобности и свести.

Наставак пута

Али можда право питање више није ко управља возилом.

Можда је питање — ко управља нама, онда када све почне да се креће само.

Када навигација бира пут.
Алгоритам процењује ризик.
Систем одлучује шта је безбедно, ефикасно и пожељно.

Тада више не говоримо само о технологији.
Говоримо о свету у којем се кретање постепено одваја од воље.

У наредном тексту серијала Пут без знака, улазимо у простор у којем аутономна мобилност постаје више од техничког напретка — постаје нови друштвени поредак.

Можда највећи парадокс будућности није у томе што ће машине мислити све више.

Већ у томе што ће човек, корак по корак, све мање морати да одлучује.

Да ли ће човек искористити нове технологије да мање одлучује у техничким сферама, а више у вишим сферама размишљања?

Да ли ће модерне технологије довести човечанство до духовног пада — или до духовног процвата?

И управо ту, на граници између удобности и слободе,
Пут без знака стиже до свог, можда и највећег, раскршћа.