kresťansko
katolícke
fórum

obycajne parlamentne listy necitam, ale toto ma pobavilo:

http://www.parlamentnelisty.sk/arena/monitor/V-novom-filmovom-spracovani-Troje-hra-greckeho-hrdinu-Achilla-cernoch-z-Ghany-Komentator-neveri-vlastnym-ociam-296602

Keď už sa prekrúcajú dejiny bol by som zvedavý ako by reagovali keby Hitlera spravili černocha. Alebo takého Pol Pota, Mao Tse Tunga, Kim Čong Una a pod. Jááááj to by bol určite rasizmus.

Nazval by niekto syna Adolf? no tak...

And by 1951, the name Adolf can hardly even get picked up by statistics any more.

V Španielsku je Adolfo (

Jsme na pokraji společenské revoluce. Stále více firem chápe, že než aby si zákazník jednou něco koupil a skutečně to vlastnil, mnohem výhodnější a ziskovější pro ně je aby zákazník nikdy nic nevlastnil a do konce života si to jen pronajímal a platil a platil. Bydlení, software, filmy, infrastrukturu… A nakonec i auta. Říká se tomu „Anything as a Service” (AaaS), Cokoli-jako-Služba, protože si platíte jen požadovanou funkci zatímco o údržbu a provoz se stará někdo jiný.

Samozřejmě je zde jisté riziko: pokud vám auto nebo software, které potřebujete pro své živobytí, patří, ale vám dojdou peníze, prostě budete do práce jezdit starým autem nebo si vydělávat starou verzí Photoshopu či Visual studia a přežijete. Např. vývojář simulátoru SF1 takto šetřil, bez investic jezdil po pochůzkách Celicou, dokud se mu nezadřel motor, a díky tomu přežil do vydání a zbohatl.

Oproti tomu pokud vám to, co nutně potřebujete, nepatří, máte problém: jakmile vám dojdou peníze na každoměsíční platby, jste bez auta, bez softwaru, tedy i bez práce – a poté, co vám dojdou peníze i na nájem, skončíte na ulici. Nepatří-li vám vybavení esenciální pro váš život, jste svého druhu otrok vydaný na nemilost tomu, komu patří. A co hůře, už to nedokážete ani změnit, protože už ani neumíte něco udělat sami. Ve všem musíte spoléhat na placenou podporu, která to ještě umí: naprosto jste přišli o rezilienci, o soběstačnost, o nezávislost.

To ovšem nastupující generace „městských profesionálů” nechápe. Těm naopak vyhovuje, že se nemusí o nic starat. Vozit auto k mechanikovi? Dolévat olej? Hrůza! To raději operativní leasing. Vyměnit si součástku v počítači? Přeinstalovat operační systém? Hrůza! To raději mít vše pronajaté od Alzy, ta se postará. Nakoupit potraviny v obchodě? Hrůza! To raději mít předplacené hotové balíky potravinových košů s donáškou až do domu. Zodpovědně spravovat své finance, šetřit a odkládat na opravy? Hrůza! To raději svěřit všechny své peníze „fin-tech” Smart aplikaci.

V reklamně a PR kampaních „Tech” firem to vypadá rozumně: proč byste se měli učit něco, co vás nezajímá, co jen to potřebujete mít odbyté? Pokud si cokoli potřebujete můžete pronajmout „jako službu”, klidně můžete být totální nemehlo které si neumí ani zavázat tkaničky, protože si všechno pronajmete („Vázání-tkaniček-jako-Služba!”) a soustředíte se na „kreativní a zábavné” činnosti, např. sledování filmů (dodaných podmínečně „jako-služba” za měsíční pronájem, samozřejmě).

Elon Musk, velký milovník autonomních aut, se na technologické konferenci s firmou Nvidia (jejíž čipy se stále více používají pro strojové učení a automatizaci aut) prořekl, že k zákazu řízení pracuje:

„Je to příliš nebezpečné. Nemůžete dovolit, aby člověk řídil dvoutunový smrtící stroj. (…)
Pokud někoho zajímá práce na autonomních autech, rádi vás budeme mít v Tesle. Bude to nový normál a zachrání to spoustu životů.” (…)
Jsou nezpochybnitelné důkazy, že autonomní auta budou bezpečnější než ta řízená lidmi.”

Později se „uvedl na pravou míru”, že to tak prý nemyslel a že „Tesla je a vždy bude pro, aby lidé směli řídit svá auta. Ale veřejnost je může chtít zakázat až budou samořídící auta bezpečnější než autonomní.” No jasně, Elone. PR na twitteru je pravda a insider talk mezi kolaboranty nepravda. Úplně ti věřím.

Jenže společnost se každopádně přesně tímto směrem posouvá. Městští spotřebitelé „Anything as a Service” nepotřebují nic vlastnit a chtějí mít pocit sucha a bezpečí, takže nadšeně schválí zákaz čehokoli těm zlým zaostalým a konzervativním staromilcům, kteří je podle jejich emocí řízených PR velkých firem ohrožují osobním vlastnictvím aut (nebo zbraní, nebo papírových knih, nebo čehokoli jiného). Jejich oblíbený ultimátní argument zní:

„řízení je privilegium, nikoli právo, a pokud je statisticky za volantem člověk 100x nebezpečnější než robot, vám přijde morálně v pořádku mu dovolit řídit a všechny ohrožovat?”

To je špatně na tolika úrovních že ani nevím kde začít. Tak od začátku. Řízení že je privilegium, ne právo? Dříve byl na každém statku kůň. Protože doprava je životní nutnost: bez té člověk umře. Koně byli ještě nebezpečnější než auta: auto vás v garáži neušlape ani vám kopytem neprorazí břicho, kůň ano. Auto se vám nesplaší a neskočí ze silnice do davu lidí, kůň ano. Právě protože je autonomní, řekli by zlí jazykové.

Přesto nikoho nenapadlo přijít k hospodáři a říct mu, že doprava není žádné právo ale privilegium a že pokud si nekoupí Certifikovaného Koně, povoz nebude mít Nálepku od kováře a vozka nebude mít Bumážku, nikdo nikam nepojede a statek pomře hlady. Takového drzouna by hospodář hnal potěhem, ne-li něčím horším. Auta jsou jen evolucí koně s povozem. A netvrďte mi že nebezpečnější: povoz byl těžší a měl násobně horší brzdy než auto.

Dlouhodobější čtenáři tohoto projektu si jistě všimli, že zde vychází články velmi kritické k dopadům některých moderních technologií, zejména heuristiky a AI, umělé inteligence. Důvod je jednoduchý: už když jsem se poprvé podrobněji setkal s Big Data”, správně jsem předpověděl, že výstupy této sady technologií budou používány ke kádrování, posuzování a „preventivnímu trestání” lidí – a AI tuto vlastnost posouvá ještě o světelná léta dál.

Z toho ovšem plyne jeden fundamentální problém: je to naprostým popřením základního lidského práva na spravedlivý proces.

A jako by tomu nebylo dost, „umělá inteligence” typu „strojové učení” navrch k tomu všemu jednak probouzí z mrtvých zvrácené totalitářské teorie o lidstvu a podstatě svobody, a jednak technicky umožňují totalitu, jaká ještě nikdy v historii nemohla existovat.

A tady vstupuje na scénu další kritický problém. „Strojově učící se” AI totiž navenek funguje jako „černá skříňka”. Jsou jí zadány vstupy a pomocí stimulů „odměn” a „trestů” začne podávat žádoucí výstupy. Co je ale mezi vstupem a výstupem, tedy jak konkrétně vypadá ta korelace, na jejímž základě AI soudí zda jste grázl nebo nevinný? To nikdo neví. To je totiž schované v neuronové síti, a do té nikdo nevidí.

Takže pokud „v neuronovce” vznikne úplná blbost, jako výše zmíněný konstrukt že kdo má rád okurky, italský popík, pohorky a víno, to je vrah? Žádný člověk to nikdy nebude moci napravit, protože se o tom žádný člověk ani nedozví. Není žádná možnost odvolání, nemůže zaznít žádné „Námitka! Tato konstrukce je zvrácená a nic nedokazuje!” Zato se všichni dozví, že „vědecká”, prý „dokonale racionální” AI vás vyhodnotila jako potenciální hrozbu.

Slepá důvěra v AI vzniká z toho, že je „vytrénovaná” AI vypuštěna na kontrolní vzorek dat. Pokud však jako na potvoru člověk s tak nenormální, ale zároveň neškodnou a naprosto legální kombinací preferencí nebo chování, jako máte vy, chybí nejen v učícím se, nýbrž i v kontrolním vzorku? Potom „vědecké testování” prokáže, že algoritmus dokáže chytat grázly s pravděpodobností 100% a chybou 0%, jupí! A už se jde prodávat prediktivní prevence.

Je to jako z filmu Minority Report: trestání konkrétních lidí za zločiny, které nespáchali, ale AI o nich tvrdí, že by je v budoucnosti určitě spáchali. Například americká Policie takto kádruje své zaměstnance AI, která rozhoduje, kdo by se prý v budoucnu zachoval jako rasista a proto má již dnes dostat preventivního padáka. Bez možnosti odvolání.

Americké tajné služby pak byly asi první, kdo použil kádrové posudky generované počítačem k tomu nejhoršímu: aktivnímu zatýkání a vraždění lidí. Se kterým člověkem bude zacházeno jako s teroristickým kurýrem určovala AI „Skynet”, která pravděpodobně křivně obvinila z podpory terorismu až 100,000 nevinných lidí. A ředitel NSA se následně v interview pro časopis Wired nechal slyšet, že „zabíjí lidi na základě meta-dat” – tzn. na základě toho, koho obviní AI algoritmus který „big data” meta-dat prochází.

Vy přitom vůbec nevíte, že vás nějaký AI algoritmus odsuzuje. Ale i kdybyste to věděli, neměli byste žádnou možnost se bránit, protože „důkazy”, na nichž je postaveno vaše odsouzení, jsou schované někde v neuronové síti a nikdo je neumí najít, natož zpochybnit či vyvrátit.

Díky „strojovému učení” a „Big Data” tak přestalo existovat právo na spravedlivý proces.

Zajímavé na té myšlence je několik věcí.

Za prvé, takové programy už jsou, sice v různém stupni kvality a zveřejnění, ale zlepšují se a netřeba pochybovat o tom, že jednou dosáhnou požadovaného stupně kvality.
Za druhé je zajímavé sledovat, jak se k takovému programu budete chovat. Viděl jsem krátký výstup testů z Apple, kde se ukázalo, že v rozmezí 3-8 týdnů takovému programu povolí naprostá většina uživatelů vést komunikace autonomně. A to dokonce i tehdy, když program generuje chyby – prostě pak lidé šli na schůzku, kterou by si sami úplně nenaplánovali. (Apple ovšem test generovalo skupinou psychologů místo umělé inteligence, chtělo jen zjistit, jak se budou lidé chovat.)
Třetí otázka byla spokojenost. Většina testovaných uvedla, že program významně zlepšuje jejich životní spokojenost a partnerské vztahy. Menšina si stěžovala na časovou zátěž, kterou jim osobní schůzky generují, úpravou software na nižší počet osobních schůzek se i oni stali spokojenými uživateli. Jiné větší výhrady nebyly.
Čtvrtá otázka je ještě zajímavější. Co se stane s naší vnitřní entitou, kterou jsme dosud označovali za svobodnou vůli? V okamžiku, kdy jsme přistoupili na to, že počítač ví a zorganizuje vše lépe a my to jen provedeme, jsme ještě obdařeni svobodnou vůlí? Je manifestací svobodné vůle skutečnost, že můžeme vždy schůzku navrženou strojem zrušit, vzít zpět? Je svobodnou vůlí souboj mezi tím, chovat se sobě prospěšně na návrh druhých a chybně na protest proti lepšímu návrhu? Budeme si raději vědomě škodit, jen proto, že tím vyjádříme svoji svobodu? A neděláme to už?
Otázka pátá: jak se k sobě budeme chovat ve chvíli, kdy víme, že velkou část osobní komunikace začíná stroj? Vadí nám přání nebo pozvání, které nerozlišíme od autentického, když ho podle stroj v zastoupení člověka?
A otázka šestá, asi nejzajímavější. Když se takový asistent osvědčí, kde se to zastaví? Necháme jej řešit stále více svých osobních věcí, abychom měli čas na práci? Pracovních, abychom měli čas na sebe?

Budou naše životy hodnotnější, když je povedeme tak, jak nám budou stroje předepisovat se zahrnutím všech našich nejniternějších osobních preferencí, i těch, které si vědomě neuvědomujeme, nepřipouštíme?

Premýšľajme nad budúcnosťou

Na záver knihy tri otázky, ktoré nám majú vŕtať v hlave

Sú organizmy naozaj len algoritmy, je skutočne život iba spracovávanie dát?
Čo je cennejšie? Inteligencia alebo vedomie?
Čo sa stane s politikou, spoločnosť a bežným životom, keď bezvedomé, ale vysoko inteligentné algoritmy budú nás poznať lepšie než sami seba?

Nahrádzanie ľudí sa deje viditeľne v ekonomike a na trhu práce. Počas priemyselnej revolúcie v 19. storočí zobral pod svoje krídla proletariát socializmus. V 21. storočí môžeme byť svedkami vytvorenia opäť masy nezamestnaných. Tento raz to však bude iné. Vznikne nová trieda nepotrebných ľudí (useless class), keďže počítače a algoritmy budú robiť všetko lepšie.

Keď Nemecko alebo Japonsko chceli vybudovať armády, potrebovali milióny zdravých mužov. Kolesá kapitalizmu poháňali taktiež milióny jedincov. Dnes je to inak. Vojna sa bude viesť v kyberpriestore skupinkou zdatných superľudí, ktorí budú útočiť pomocou algoritmov. Zbohom pušky a tanky.

Táto nová trieda nebude len nezamestnaná, ale nezamestnateľná.