Det är konstigt hur människor kastar bort alla sorters förbehåll vad deras okunskap i hur datorer och programmering fungerar när det kommer till det lösa konceptet AI.

Tror inte att det är så pass nära i tiden eller oundvikligt som de flesta får det att låta som. Folk underskattar de skåror som ett programs instruktioner utgör och förstår inte att säkerhetsåtgärder är lätta att skriva in, jag tror även att den heuristik som krävs för att göra kompetenta beslut i verkligheten också underskattas.

Jag kan lätt tänka mig att olika former av självständiga skript och maskiner uppstår, men i olika generationer med människan och hennes civilisation som mellanhand snarare än att det efter ett gryn av autonomi förekommer någon sorts explosion.

Ingen aning.. Men dåligt för att:
Skulle kännas tråkigt om människan utrotades... Känns som det finns mycket kvar att nysta i om den.

frukt: Folk underskattar de skåror som ett programs instruktioner utgör och förstår inte att säkerhetsåtgärder är lätta att skriva in, jag tror även att den heuristik som krävs för att göra kompetenta beslut i verkligheten också underskattas.

Instruktioner och säkerhetsåtgärder skrivs in redan idag i program...och förbikopplas också redan idag av t ex hackers. Varför skulle en AI inte kunna göra samma sak, och det på ett mer effektivt sätt?

frukt: Jag kan lätt tänka mig att olika former av självständiga skript och maskiner uppstår, men i olika generationer med människan och hennes civilisation som mellanhand snarare än att det efter ett gryn av autonomi förekommer någon sorts explosion.

Programs intelligens kan öka mycket snabbare än en människas då datorernas evolution inte är bunden av biologiska hinder. Det är därför sannolikt att de utvecklas bortom människans förståelseförmåga, och det kan ske med exponentiell hastighet vilket redan idag sker. Det enda sättet på vilket utvecklingen kan ske parallellt med människans förståelse av den är om människan aktivt lyckas bromsa maskinernas utveckling. Det räcker dock att mänskligheten en gång tappar kontrollen för att maskinerna ska få och behålla övertaget.

Lol nej

AI kommer alltid ha en killswitch så nä

Kudhos: AI kommer alltid ha en killswitch så nä

Du tror det? Varför skulle den inte kunna hitta sätt att kringgå sin off-knapp? För övrigt, en AI är ett program och ett program kan hitta sätt att sprida sig över hela nätverk. Det är tillräckligt svårt att sätta stopp för datorvirus idag, tror det blir ännu svårare när de blir allt smartare.

Razor:

Du tror det? Varför skulle den inte kunna hitta sätt att kringgå sin off-knapp? För övrigt, en AI är ett program och ett program kan hitta sätt att sprida sig över hela nätverk. Det är tillräckligt svårt att sätta stopp för datorvirus idag, tror det blir ännu svårare när de blir allt smartare.

Med smartare teknik sätter man högre krav på felhantering. Ett av de hetaste yrkena just nu är säkerhet inom IT. 

Kudhos: Med smartare teknik sätter man högre krav på felhantering. Ett av de hetaste yrkena just nu är säkerhet inom IT.

Vad händer när ett program når en komplexitet som är bortom mänsklig förståelseförmåga? Hur hanterar och kontrollerar man något man inte fullt förstår?

Razor:

Vad händer när ett program når en komplexitet som är bortom mänsklig förståelseförmåga? Hur hanterar och kontrollerar man något man inte fullt förstår?

Någon har utvecklat det. Det måste fylla logiska operationer. De dynamiska AI som finns t ex i spel är baserat på algoritmer. Givet att de lär sig från sin omgivning men de kan inte utvecklas utan att någon skriver det. 

T ex an AI med bara sök sinne kommer inte få fler sinnen om inte någon lägger in det. 

T ex i spel har man AI som lär sig efter dig hur den ska bete sig. Till exempel vart du gömmer dig, eller vad för vapen  du använder. Men för att utöka dess kunskap måste den få det av någon utvecklare. 

Påstår inte att herr Hawkings har helt fel då jag tror att AI kommer bli problem, men inte människans undergång. 

Nä, datorer osv är bara bra på att göra väldigt specificerade saker, och även om vi skulle konstruera en intelligens med vilja att mörda oss så skulle den helt sakna medel att göra det

Jag kategoriserar mig som teknisk idiot, men hur "intelligenta" maskiner än kan bli kan jag inte känna respekt för dem så länge de inte har en självstämndig vilja och reflektionsförmåga, vilket de enligt min oinformerade åsikt omöjligt kan få. 

Kudhos: Någon har utvecklat det. Det måste fylla logiska operationer. De dynamiska AI som finns t ex i spel är baserat på algoritmer. Givet att de lär sig från sin omgivning men de kan inte utvecklas utan att någon skriver det.

Okej, men jag tror att den sortens AI Hawking varnar för är en sådan som utvecklar sig själv, och en sådan kan bli komplex bortom dess skapares förståelse. Att någon utvecklar en plattform betyder inte att samma grundare förstår sig på vad som byggs vidare på den plattformen.

mynona: så länge de inte har en självstämndig vilja och reflektionsförmåga, vilket de enligt min oinformerade åsikt omöjligt kan få.

Ens självständiga vilja baserar sig på ens unika behov. Om ett program har ett grundläggande behov kommer den också att ha en vilja, precis som allt levande. Reflektionsförmågan är förmågan till självmedvetande och i övrigt rekursiva (återkopplande) processer vilka redan finns inom matematik och programmering så jag tror inte att det är omöjligt. Självmedvetande tror jag nås vid tillräckligt hög komplexitet i samarbetet mellan olika centra för införsel av information och bearbetning av denna. För att hantera en stor mängd information från olika bearbetningscentra och samordna allt detta behövs ett övervakande organ som ser till helheten, och där kommer medvetandet in i rollen.

Morgonstjärna: och även om vi skulle konstruera en intelligens med vilja att mörda oss så skulle den helt sakna medel att göra det

Vi blir allt mer beroende av Internet och datorer vilket gör oss allt mer sårbara för störningar i elnät och Internet. Ett program som tar kontrollen över Internet och allt som är kopplat till Internet kommer att ha en stor makt och kontroll över infrastrukturen i samhället vilket också betyder kontroll över människan.

Razor: Ens självständiga vilja baserar sig på ens unika behov. Om ett program har ett grundläggande behov kommer den också att ha en vilja, precis som allt levande. Reflektionsförmågan är förmågan till självmedvetande och i övrigt rekursiva (återkopplande) processer vilka redan finns inom matematik och programmering så jag tror inte att det är omöjligt. Självmedvetande tror jag nås vid tillräckligt hög komplexitet i samarbetet mellan olika centra för införsel av information och bearbetning av denna. För att hantera en stor mängd information från olika bearbetningscentra och samordna allt detta behövs ett övervakande organ som ser till helheten, och där kommer medvetandet in i rollen.

Man kan vinna en argumentering för att datorer och dylikt har en egen vilja och självmedvetande rent språkligt sett och motivera det intellektuellt logiskt, men nej: det blir knappast samma sak i mina ögon. De kommer till exempel heller inte att ha känslor och personlighet. Men så behöver jag ju heller inte övertygas. 

mynona: Man kan vinna en argumentering för att datorer och dylikt har en egen vilja och självmedvetande rent språkligt sett och motivera det intellektuellt logiskt, men nej: det blir knappast samma sak i mina ögon. De kommer till exempel heller inte att ha känslor och personlighet. Men så behöver jag ju heller inte övertygas.

Hur man ser på det hela beror mycket på ens förutfattade världsbild. Jag tycker att mycket talar för att våra känslor och personlighet kan härledas från gener, omgivning och i nuet i form av minnen, hormonnivåer o.s.v. som är biologiskt lagrat och inprogrammerat i oss. Ser man det på det sättet är det inte omöjligt att skapa en artificiell livsform som även den drivs av omvandling av energi, minnen, olika vätskor som motsvarar hormoner o.s.v.