Woz: Vi blir husdjur åt maskiner

Inte med dagens vetskap iallafall...

Jag läste om en programsekvens där ett program lärde sig saker som det inte visste innan, genom att helt enkelt testa sig fram till olika lösningar. På så vis lärde sig programmet saker den inte hade lagrat tidigare.

Men visst är det så att begränsningen för vad ett program klarar av är vad vi programmerar den med. Men jag är övertygad om att vi i framtiden kan få program att lära sig mer saker. I synnerhet med "databasen" internet.

Jag är också övertygad om att i framtiden använder vi oss av s.k. AI'n, faktum är att vi redan gör det med viss begränsning, titta på Watson, Siri och Cortana. Men de blir aldrig smartare än de som skapat dem.

De blir självklart snabbare och bättre på många sätt, men inte smartare som i klokare eller visare. Ingen vetenskap i världen kommer att ändra på detta faktum. För när vi har den vetenskapen att vi kan skapa något som är lika smart som vi är nu, då har vi ju redan tillskanskat oss den vetenskapen, och därmed är vi åter igen smartare än det vi skapat.

All denna rädsla är enbart grundad på rädsla för det okända, att tänk om, tänk om de kunde bli smartare än oss. Men det kan de inte då det är vi själva som skapar dem. Vi kan inte skapa något smartare än oss själva, det är omöjligt.

Men tänk om det kommer en smartare utomjording och skapar dem. Nåja där matade jag den gamla räddslan för det okända igen. Tänk om, tänk om det kunde bli så.

Knappast någon enfaldig rädsla utan mycket relevant sådan. Räcker med ett fåtal misstag inom AI-utvecklingen för att Woz Hawkings och andras farhågor ska besannas inom kanske bara hundra år.

R.Carpenter "We cannot quite know what will happen if a machine exceeds our own intelligence, so we can't know if we'll be infinitely helped by it, or ignored by it and sidelined, or conceivably destroyed by it," he says."
http://www.bbc.com/news/technology-30290540

Jo det kommer självklart ske men frågan är om det du pratar om ens ska kallas för maskin?

Antar att det är ett självporträtt som du är stolt över men i den här tråden passar bilden inget vidare eller du kanske på allvar tycker att Hawking Woz Musk m.fl. mycket kompetenta och inte direkt teknikfientliga personer är ute på hal is när de varnar för potentiella faror med AI. Hint: Det är dom inte.

Verkar som om du skulle behöva öva upp din läsförståelse. Lycka till med det.

Nej att du är smartare än Hawking Woz Musk eller ens mig är väldigt osannolikt. Smarta människor avfärdar inte sannolikheter.

Det har jag dock inte hävdat. Men denna rädsla som dessa personer som omnämns här är rädda för det.
Det går att konstruera farliga maskiner helt utan AI.

Varför ska man höja dessa personers intelligens till skyarna utöver ens eget, de är inget annat än människor som vi, och sätter vi manken till så kan vi förstå, diskutera, forska i samma ämnen som de gör. För min del tar jag gärna del av deras forskning, men jag drar mina egna slutsatser.

Jag anser att deras slutsatser angående AI samt intelligent liv utanför jorden, inte alls är så märkvärdiga, snarare tycker jag att det är lite foliehatt varning över det hela. Men inte är de dumma människor för det, av allt att döma har de inte tänkt igenom saken tillräckligt noga. För de har helt klart viktigare saker att fundera på än om framtida AI'n eller utomjordingar kommer att innebära slutet för mänskligheten.

Men visst många människor känner en oro över dessa frågor. Helt i onödan enligt mig, för jag kan avfärda dessa skräckscenarion som fantasier och jag vet varför jag kan avfärda dem som fantasier, de är inte ens sannolika.

Nej, det är en generalisering, men i denna kontext är de nästan synonymer. När jag säger slutet för mänskigheten syftar jag på alla möjliga ideer om hur tekniken ska ta över våra liv. Som Woz nu uttryckte att vi blir husdjur åt AI'n, "same but different".

Naivt, sa Bill, naivare än naivt sa Bull.

Hur kan du tycka det är foliehatt om slutsatserna inte är märkvärdiga? Om de inte är märkvärdiga så talar du ju mot dig själv.

No shit!

Det har de garanterat gjort men uppenbarligen har du inte gjort det som så tvärsäkert kan avfärda så extremt komplexa frågor som ingen idag sitter inne med svaren på.

Tänk om du har fel och detta är det viktigaste de kan fundera och varna om?
Artificiell intelligens har massvis med bra tillämpningar men AI kommer även kunna användas till mindre bra saker, hur ska det styras i framtiden? Att helt lämna över AI-utvecklingen till giriga företag och oansvariga lands ledare är ett recept för katastrof.

Du menar lika osannolika som att extremt säkra ohavererbara kärnkraftverk skulle haverera eller att stora flygplan försvinner spårlöst 2014?

Tror inte många känner någon större oro för AI än men att riskerna tas upp på ett tidigt stadium av tunga tänkare och entreprenörer med samvete är mycket bra.

Egentligen är detta lönlöst att svara på i.o.m du drar upp frågor om havererande kärnkraftverk och företags oansvariga ledare m.fl. ämnen som inte har med saken att göra, men jag gör ett försök i alla fall.

Du säger "Tänk om du har fel".
Ja vadå tänk om jag har fel?

Det är faktiskt helt upp till dig att avgöra vad du tror om mina slutsatser. Men hur är det med dig själv, har du någonsin själv försökt röna ut hur saker och ting förhåller sig? Varför tror du att dessa frågor är utanför din egen eller min förmåga att greppa?

Låt mig istället vända på frågan. Tänk om det är så att undertecknad har rätt, vilka rimliga slutsatser skulle det resonemanget medföra, samt går det på något vis att verifiera huruvida undertecknad har rätt?

Det är enbart du själv som har svaren på de frågorna, för begränsningen ligger hos dig själv och ingen annan.

Mänsklighetens historia av teknikoptimism, osannolika teknikhaverier och girighet har självklart med AI's framtid att göra.

De är inte utom min förmåga att greppa eftersom jag inser teknikens brister både nu och i framtiden du verkar inte göra det.

Du vänder inte på frågan du flummar mest till den.

I just de här frågorna så ligger begränsningen främst hos den som framhärdar med att det inte finns några risker alls med AI.

Observera att jag inte tror att mänskligheten kommer gå under på grund av AI men det finns helt klart en risk att vi kan hamna i just den situation Woz beskriver att många blir slavar till eller under tekniken och en hel del människor är det ju faktiskt redan.

Ursäkta men det är du som flummar, för var skulle jag ha påstått att det inte finns risker med AI, eller att vi människor inte skulle bli slavar under tekniken?

Titta på oss två nu som slaviskt debaterar detta ämne med varandra på en fredag kväll trots att vi inte känner varandra, vi är redan två som är förslavade under tekniken.

Men jag ber dig, håll dig till ämnet, och sätt inte ord i min mun.

Har du verkligen så kort minne?

Juanito: "Men visst många människor känner en oro över dessa frågor. Helt i onödan enligt mig, för jag kan avfärda dessa
skräckscenarion som fantasier och jag vet varför jag kan avfärda dem som fantasier, de är inte ens sannolika."

Skulle inte kalla detta slaviskt debatterande eller att man är förslavad för att man debatterar här. Gör själv en del andra saker samtidigt men du kanske sitter fastlåst framför datorn?

Jag håller mig till ämnet och sätter inte ord i din mun som du själv inte har yttrat eller rättare sagt skrivit.

Men skärp dig, jag hoppas du var full. Ja människor känner en oro helt i onödan för att AI ska ta över oss, t.ex. Woz är rädd att vi ska bli husdjur till AI. Det är scräckscenarion som är lätt att avfärda som fantasier. Det har inget att göra med försvunna flygplan eller kärnkrafts olyckor.

Det är du som påstår att jag inte har en aning. Men det är där du har så fel. Det är nämligen inte utan orsak jag kan säga det är onödigt, och fullständigt osannolikt.

Men jag tänker inte fortsätta denna så onödiga debatt med dig, då den ändå inte tillför något av värde. Så godnatt.

Många tror att om vi bygger en maskin som är mer intelligent än oss, så kommer den i sin tur att bygga en ännu mer intelligent maskin och så vidare i all evighet. Men det är fel! Haha.

Vid någon tidpunkt inser nämligen dessa intelligenta maskiner att det inte vore så smart att bygga något klyftigare än sig själv, och låter därmed bli och går ut och leker istället.

Så de intelligenta maskinerna bör nå någon slags platå där de inte blir smartare.

Du har verkligen ingen aning och du visar det gång på gång.

Snarare så kommer dessa intelligenta maskiner uppdateras och uppgraderas allt eftersom, på ett sätt som människor inte kan konkurrera med.

Låter som den teori Juanito bergsäkert tror på.

OK vem bestämmer när den platån är nådd och hur ska artificiell intelligens kunna stoppas att utvecklas helt plötsligt? Lär bli svårt när vissa forskare länder och företag investerat enorma resurser och prestige i AI.