[Þessi grein birtist fyrst á Stundinni 22. júlí 2015. Tengill á greinina á upphaflegum stað er hér:]
Um daginn tók ég upp á því að fá blogg-horn hér á Stundinni. Svo áttaði ég mig á því að ég hafði ekki hugsað það mjög vel hvernig bloggið mitt ætti að vera. Þess vegna tafðist svolítið að segja frá þeirri frétt sem ýtti mér af stað til að blogga. Nú ætla ég að bæta úr því.
Fyrir fáeinum vikum, mánudaginn 29. júní sl., voru tveir starfsmenn bílaverksmiðju í vinnunni sinni eins og annað vinnandi fólk. Þetta voru starfsmenn verktakafyrirtækis sem sinnir ákveðnum verkefnum fyrir bílaverksmiðjuna. Bílaverksmiðjan framleiðir Volkswagen bíla. Hún stendur við bæ sem heitir Baunatal og er í um 100 km. fjarlægð frá Frankfurt.
Starfsmennirnir tveir voru eitthvað að stússa í grennd við fjölhæft vélmenni, róbóta, sem þar var í gangi og er í eigu verktakafyrirtækisins sem þeir unnu hjá. Ef til vill voru þeir að smyrja griparmana á vélmenninu, það kom ekki fram í fréttinni. Þeir voru hvað sem öðru líður eitthvað að bauka í kringum vélmennið. En skyndilega tók vélmennið sig til og þreif til annars starfsmannsins og kramdi hann nánast til bana með því að þrýsta á bringu hans. Það var stutt frásögn af þessu í vefútgáfu Guardian þann 2. júlí síðastliðinn (Hér: http://www.theguardian.com/world/2015/jul/02/robot-kills-worker-at-volkswagen-plant-in-germany ).
Starfsmaðurinn var ungur maður, tuttugu og tveggja ára. Hann lét lífið ekki samstundis en síðar sama dag. Hinn starfsmanninn sakaði ekki.
Í annarri frétt af þessu slysi sagði að þetta vélmenni ætti ekki að vinna í námunda við menn, heldur væri því ætlað að vinna innan í sérstöku öryggisbúri. (Hér http://uk.businessinsider.com/robot-kills-factory-worker-in-germany-2015-7?r=US&IR=T) Ungi maðurinn sem vélmennið drap var inni í þessu öryggisbúri þegar ósköpin gerðust.
Mér sýnist fréttum bera saman um að þetta hörmulega slys hafi stafað af mannlegum mistökum. Mistökin fólust sennilega í því að hafa vélmennið í gangi meðan starfsmaðurinn fór inn í öryggisbúrið.
Sagan leiðir hugann að gervigreind enda hefur þetta vélmenni áreiðanlega slíka greind til að bera.
Ef vél hefur til að bera öfluga gervigreind geta þeir sem fylgjast með vélinni ekki alltaf vitað fyrirfram hvað vélin gerir næst eða þar næst. Dæmi sem allir þekkja um slíka ófyrirsjáanlega vél er af hinum öflugu skáktölvum sem vinna flinkustu skákmenn veraldarinnar. Ástæðurnar fyrir því að vélarnar vinna svo oft eru einmitt þær, að það er ekki hægt að vita hvað þær gera næst og svo hafa þær líka svo gott lag á skáklistinni. Þær eru gjarnar á að leika óvænta leiki sem leiða til sigurs samkvæmt reglum leiksins.
Vélmenni með gervigreind hafa til að bera reikniverk, sem „lærir“ af reynslunni. Það er augljóst að ef menn þyrftu að keppa við slíkar vélar, líkt og skákmenn tefla við skáktölvur, gæti sú glíma reynst þeim erfið.
Þetta óskaplega slys í bílaverksmiðjunni sýnir betur en margt annað hvað við lifum í breyttum heimi. Sú breyting felst ekki í því að tæknin sé skyndilega farin að bregðast okkur. Það hefur hún gert öðru hvoru frá aldaöðli. Það er ekki nýtt að tæknikunnátta manna getur brugðist og slys átt sér stað. Jarðskjálftar hafa til dæmis oft valdið því að hús hafi fallið saman og brýr hrunið. Þegar slíkt gerist mætti ef til vill hafa það til marks um að tæknin sé ekki óskeikul.
En atvik á borð við það þegar þak eða brú hrynur með óskaplegum afleiðingum hafa samt á sér allt annan blæ en þegar vélmenni taka sig skyndilega til og bana næsta manni.
Undanfarið hafa líka verið aðrar fréttir sem manni líst svona misjafnlega á, eins og fréttir af því að vélarnar muni sennilega bráðum taka við bílstjórasætinu í umferðinni, vegna þess að þá verði umferðin öruggari en nú, meðan fólk í misjöfnu ástandi er við stýrið. Ég óttast að menn muni vilja láta tæknina sjálfa stjórna í allt of ríkum mæli í framtíðinni.
~ ~ ~
Athugasemd, færð inn 24. júlí 2015 kl. 11:50.
Geir Guðmundsson verkfræðingur var svo vinsamlegur að benda mér á að sennilega hafi þetta vélmenni, sem sagt er frá í þessari stuttu grein, ekki gervigreind til að bera. Ég vil þakka Geir kærlega fyrir þessa ábendingu. Sé það rétt að viðkomandi vélmenni sé ekki búið gervigreind er allsendis óviðeigandi að lýsa þessu hörmulega slysi með þeim orðum að vélmennið hafi banað manninum. Þá er réttara að lýsa því með orðum á borð við að banaslys hafi átt sér stað, „þegar starfsmaður varð fyrir griparmi róbóta“ eða eitthvað í þá veru. Þessi ónákvæmni í orðalagi skrifast á reikning pistilshöfundar og fákunnáttu hans um iðnaðarróbóta. Það er etv. ekki úr vegi að benda á að slysið var auðvitað jafn hræðilegt hvort sem vélin sem þarna kom við sögu var búin gervigreind eða ekki og ógnin söm, sem okkur getur stafað af tækninni. – ÞÞ