AI DOOM

[bastard]

https://www.nyteknik.se/debatt/vi-kan-i ... -5/2016676

"Om vi lyckas med det blir AGI-genombrottet det bästa som någonsin hänt oss, men om inte så blir det sannolikt vår undergång."

änteligen

[maskros]

Ganska scary det det där. Som jag tänker är det så att när vi fattar att vi gjort bort oss, när insikten kommer, då är det för sent. Det betyder inte att jag tror det blir Terminator eller Matrix, det räcker gott att den industriella civilisationen kollapsar. Men, å andra sidan, det gör den ju förr eller senare ändå så... Ja, kanske du har rätt bastard med ditt änteligen.

[Marie]

AI i sig är ofarlig..
Precis som med knivar, hammare, baseboll trän, 3D printers, kärnklyvning osv.. Det är personen/företaget bakom användandet som är orsaken om det används för gott eller ont.

Tyvärr har människan visat sig vara korkad. så AI är inte farligare än kärnklyvning.

[Parabellum]

Jag välkomnar AGIn.
Tror att den kommer kunna ta de stora besluten bättre än dessa värdelösa människor som skall styra våra länder och världen.
Oavsett partitillhörighet så är de värdelösa ledare....
Sätter min fulla tilltro till en AI som är skapad för att leda oss och moderjord, in en lång och framgångsrik framtid.
Sossen i mig jublar.

[Marie]

Den dagen de får för sig att AI'n ska få ta moraliska beslut så är vi körda på riktigt.
en AI vet inte rätt från fel, den känner inte ånger för ett felaktigt beslut, den vet bara inmatad data.. AI kan aldrig få ett mänskligt medvetande.. så har den matas med felaktig data så tar den oxå felaktiga beslut
Ta som anställningar.. Män är ledande i VD positioner o liknande.. Kommer AI'n anse att män är bättre på att ta beslut än kvinnor då?
Nu tog jag bara ett exempel, men det finns tusentals exempel mer.
Så AI för att underlätta arbetet ja.. men inte för att ta beslut.

[entropi]

Det enda som skyddar mot dåliga aktörer med vapen är goda aktörer med vapen. Att naivt ta bort tillgång till en kraftmultiplikator som vapen eller AI med regleringar hjälper ju inte mot dåliga aktörer som ändå skiter i reglerna.

ChatGPT o dyl är STORA ML modeller som kräver enorm datorkraft för att köra.
De kräver företag eller andra entiteter som är väldigt resursstarka, vilket kommer skapa monopol, eller i värsta fall en helt överlägsen artificiellt medveten varelse.

En räddning skulle kunna vara decentralisering och utveckling av kraftfull AI-teknik som på något vis är möjlig för alla att kontrollera enskilt. Den kan då gå ärenden åt eller skydda den enskilde individen.
Det skulle kunna ge att folk har egna privata AIs som skyddar sina enskilda ägare om någon annan AI blir skadlig eller löper amok.

[Kardinal]

Hur ofta hittar man sårbarheter och buggar i mjukvara? Vad är oddsen att en AGI kommer få vattentäta parametrar?

[bastard]

dom ända ställena där det inte finns buggar i programmen är i ett land för längesedan där minnet i datorerna var så litet att dom som programerade i maskinkod visste exakt vad programmet gjorde bit för bit, bokstavligen bit för bit
och programmet bör vara i eprom för att slippa ändringar

en AI har däremot abnorma mängder programvara som dessutom ändras av sig själv via inlärning, vad kan gå fel......

men , ändå, en AI som styr landet kommer sannolikt göra det mycket bättre än barnen i riksdagiset

[Marie]

för ca4år sedan funderade jag ärligt på att skapa en hack-AI..
Men jag hade
1.För lite kunskaper om maskininlärning o programmering.
2.För lite datorkraft
Jag har inte gett upp tanken ännu.. Men jag har fortfarande för lite datorkraft.. kunskap på maskininlärning jobbar jag på.

Jag är garanterat inte den första som tänkte detta och det är garanterat någon stat som redan jobbar på det.

[rödluvan]

AI i sig är ofarlig..
Precis som med knivar, hammare, baseboll trän, 3D printers, kärnklyvning osv.. Det är personen/företaget bakom användandet som är orsaken om det används för gott eller ont.

Tyvärr har människan visat sig vara korkad. så AI är inte farligare än kärnklyvning.

Amen på det tamefan, se bara på tex Youtubes algoritmer...
(Eller hur forum som swecklocker sköts...)