2024-09-27, 09:15
  #2593
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av Ola Schubert
Instämmer att självmedveten AI som blir fientlig emot mänskligheten är det största hoten. Det finns inte kvantitativa metoder för det i dagsläget, så vi måste förlita oss på kvalitativa metoder, hur mycket än datavetare föraktar sådana.
Vilken "kvalitativ metod" är det exakt som du pratar om nu som "datavetare föraktar"?
Citat:
Ursprungligen postat av Ola Schubert
Jag har tipsat dig hur du, själv kan få till en fördjupad insikt av vad som kommer ut ur modellerna, därefter så kan du bedömma vilken relelevans det kan ha för säkerhetsproblemet, om du upptäcker något intressant.
Vad gäller open source så vet du att jag vill att vi skall börja reglera det.
Vi måste till att börja med skapa en ny global organisation med experter (typ Sutskever, Shazeer, på den nivån), som ges full insyn i de företag som nu bygger AGI. Och som har mandat att stoppa utvecklingen vid för hög risk.
De behöver ha tillgång till Interpol och FN:s militär för att se till att alla underkastar sig detta organ, om det skulle vara så att någon eller något land vägrar att bli kontrollerade. Vi behöver något liknande www.iaea.org men större och med ett tydligare och mer kraftfullt mandat. Militära operationer ska inte uteslutas om länder vägrar att samarbeta. Detta är inte konstigare än att vi i dag inte accepterar att Iran bygger kärnvapen.

Vi behöver avsätta betydande resurser för en sådan organisation och vi behöver göra det nu. Jag anser att det är motiverat att satsa lika mycket på detta som vi lägger på försvaret i dag. Jag tror att ASI-försvar kommer att bli viktigare än vårt militära försvar. Skatterna måste höjas påtagligt för att det här ska bli möjligt. Är du med på det?
Citera
2024-09-27, 11:28
  #2594
Medlem
Korv-Bajss avatar
Visst är det kul med datorer!

Men hur farligt är det med AI egentligen?

Jag kommer ihåg hur det var för sisådär 45 år sedan.
Vanligt folk började få möjlighet att skaffa sig "hemdatorer".

Min mamma sa: Det där med datamaskiner, jag tycker det verkar vara farligt!

Naturligtvis blev hon och hennes likatänkande idiotförklarade
av den tidens "dataexperter", som med ett överlägset leende
på läpparna förklarade att hennes kakrecept inte utgjorde
större risk på hennes 5 1/4" floppydisk än dom gjorde i
hennes kokbok.

Hur ser det ut nu då, 45 år senare?

Som tur är behöver jag inte fråga någon här eftersom jag oftast
inte längre har någon anledning att bry mig om vad människor
har att säga. Jag frågar data-AI:n istället:


Citat:
Min korkade morsa sa en gång att hon var rädd för att datorer skulle vara farliga.
Inte kan väl datorer vara farliga heller?


Din mamma kanske var orolig för potentiella risker som datorer kan medföra, och det är förståeligt, även om datorer i sig själva inte är "farliga" på ett fysiskt sätt. Men det finns aspekter kring datorer och teknik som kan vara skadliga om de inte hanteras rätt, exempelvis:

  1. Säkerhetsrisker: Datorer kan utsättas för virus, hacking, eller andra cyberattacker som kan stjäla personlig information eller skada system.

  2. Överanvändning: Långvarigt skärmtittande kan påverka hälsan, som ögontrötthet, dålig hållning eller sömnproblem.

  3. Sociala medier och integritet: Det finns en risk att användare lägger upp för mycket personlig information som kan missbrukas eller exploateras.
Så även om datorer är kraftfulla verktyg som gör livet enklare på många sätt, finns det faktorer man bör vara medveten om för att använda dem på ett säkert och balanserat sätt.


Berätta mer.

Visst! Datorer har förändrat världen på många positiva sätt, men de medför också vissa risker och utmaningar. Låt oss titta närmare på några av dessa aspekter:

  1. Cybersäkerhet

    • Virus och malware: Datorer kan bli infekterade av skadlig programvara som virus, trojaner eller ransomware, som kan stjäla data, låsa filer eller göra en dator obrukbar. Det kan vara stressande och kostsamt att återställa data.

    • Phishing och bedrägerier: Cyberkriminella använder ibland e-post, meddelanden eller falska webbplatser för att lura människor att lämna ifrån sig känslig information som kreditkortsnummer eller lösenord.

    • Hacking: Hackers kan bryta sig in i datorer och nätverk för att stjäla information eller orsaka skador. Det kan gälla både personliga datorer och stora organisationers system.

  2. Integritetsrisker

    • Övervakning och spårning: Många webbsidor och appar spårar våra rörelser online. De samlar in data om våra intressen, vanor och plats, vilket kan kännas som ett intrång i privatlivet. Denna data används för att skapa profiler som företag använder för riktad reklam.

    • Identitetsstöld: Genom att hacka sig in i datorer eller samla in personlig information online, kan någon stjäla din identitet och använda den för bedrägeri, som att öppna kreditkonton i ditt namn.

  3. Sociala och psykiska risker

    • Skärmtid och hälsa: Att spendera för mycket tid framför datorn kan påverka den fysiska och mentala hälsan. Det kan orsaka ögontrötthet, rygg- och nackproblem, och till och med bidra till sömnproblem.

    • Social isolering: Att vara uppkopplad hela tiden kan minska den personliga kontakten med andra människor. Sociala medier kan ibland skapa ett falskt intryck av att alla andra har "perfekta liv", vilket kan leda till känslor av avundsjuka eller ensamhet.

    • Beroende: Online-spel, sociala medier och ständigt uppdaterande nyhetsflöden kan vara beroendeframkallande, vilket gör det svårt att koppla bort och fokusera på andra delar av livet.


  4. Misinformation och falska nyheter

    • Fake news: Internet är fullt av både pålitlig och felaktig information. Det kan vara svårt att veta vad som är sant och vad som är falskt. Spridning av felaktig information, ibland avsiktlig, kan påverka människors uppfattningar om allt från hälsa till politik.

    • Desinformation: I vissa fall sprids desinformation medvetet för att manipulera eller påverka människor, särskilt inom politik och samhällsfrågor.

  5. Etiska frågor kring AI och automation

    • Arbetsmarknad och jobbförlust: Med framväxten av automatisering och artificiell intelligens (AI) kan vissa arbeten ersättas av datorer och robotar. Detta kan skapa ekonomiska och sociala utmaningar för de som förlorar sina jobb.

    • Beslutsfattande av AI: Om vi låter AI ta fler beslut åt oss, finns det också en risk att dessa system fattar beslut som är svåra att förstå eller kontrollera. Dessutom finns farhågor kring fördomar och ojämlikhet som kan byggas in i dessa algoritmer.

  6. Datalagring och molntjänster

    • Många använder molntjänster för att lagra sina filer och data, men om dessa system hackas eller om företag missköter säkerheten, kan känslig information bli utsatt. Till exempel har det förekommit incidenter där personlig information från användare har läckt ut från stora plattformar.


Hur kan man skydda sig?
Trots dessa risker finns det sätt att minimera farorna:

  • Uppdatera programvara regelbundet för att täppa till säkerhetshål.

  • Använd antivirus och brandväggar för att skydda datorn mot hot.

  • Var försiktig med vilka länkar du klickar på och var källkritisk när du läser nyheter online.

  • Använd starka lösenord och tvåfaktorsautentisering för att göra det svårare för obehöriga att komma åt dina konton.

  • Ta pauser från skärmen och sätt gränser för skärmtid för att hålla en hälsosam balans mellan online- och offlinevärlden.

Så även om datorer själva inte är "farliga" i traditionell mening, är det förståeligt att vissa oroar sig för de negativa aspekter som kan komma med teknologin. Det handlar i slutändan om att vara medveten och försiktig när vi använder dem.

Datamaskiner ÄR alltså farliga på en massa olika sätt!

Nu har jag några frågor till er medmänniskor:

  1. Är det inte rätt pinsamt hur rätt min morsa hade för 45 år sedan?

  2. Kan vi lära oss något av det?

  3. Missade inte AI:n den största (framtida?) datamaskin/AI-faran: Små, billiga, beväpnade och AI-styrda drönare?
Citera
2024-09-27, 18:41
  #2595
Medlem
Citat:
Ursprungligen postat av Cyborg2030

Beslutsfattande av AI: Om vi låter AI ta fler beslut åt oss, finns det också en risk att dessa system fattar beslut som är svåra att förstå eller kontrollera. Dessutom finns farhågor kring fördomar och ojämlikhet som kan byggas in i dessa algoritmer.
Vad innebär det för mänskligheten om 5 år när AI:n redan i dag säger att den kan bli svår att kontrollera?
Innebörden av det fetade är inte att AI skulle vara svår att kontrollera, utan att det kan bli svårt att verifiera korrektheten av de beslut den tar.

Det är heller inte ChatGPT:s åsikt eller reflektion, det är en problematik som tas upp i praktiskt taget varenda artikel som handlar om AI och dess påverkan på samhället.
Citera
2024-09-27, 18:54
  #2596
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av erkki17
Innebörden av det fetade är inte att AI skulle vara svår att kontrollera, utan att det kan bli svårt att verifiera korrektheten av de beslut den tar.

Det är heller inte ChatGPT:s åsikt eller reflektion, det är en problematik som tas upp i praktiskt taget varenda artikel som handlar om AI och dess påverkan på samhället.
Nej. Innebörden av att fatta beslut som vi inte kan kontrollera är att vi tappar kontrollen.
Om ett beslut fattas som är fientligt mot dig, då har du fått en helt annan utmaning än att "verifiera" att beslutet var bra eller dåligt. Vem ska du verifiera med, en annan AGI?
Citera
2024-09-27, 19:02
  #2597
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Nej. Innebörden av att fatta beslut som vi inte kan kontrollera är att vi tappar kontrollen.
Om ett beslut fattas som är fientligt mot dig, då har du fått en helt annan utmaning än att "verifiera" att beslutet var bra eller dåligt. Vem ska du verifiera med, en annan AGI?
Nej, texten handlar om risken med att låta AI ta automatiska beslut eftersom att vi inte kan veta vad den grundar sitt beslut på och därmed inte kan kontrollera att beslutet är korrekt.

Hur vet jag det? Därför att exakt denna problematik tas upp i flera texter om AI och därmed finns med i dess träningsdata.

Ja och läsförståelse förstås...
__________________
Senast redigerad av erkki17 2024-09-27 kl. 19:14.
Citera
2024-09-27, 19:07
  #2598
Medlem
Bajskottens avatar
Citat:
Ursprungligen postat av Cyborg2030
Men I got news for you guys: alla människor på den här planeten är inte ansvarsfulla. Det finns psykopater och kriminella som just nu använder GPT och andra AI-verktyg för extremt destruktiva ändamål.

Men då är det ju människan som är problemet.
Citera
2024-09-27, 19:11
  #2599
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av Bajskotten
Men då är det ju människan som är problemet.
Ja, människorna som skapar en ASI som tar makten bär ansvar för det. Men det är en klen tröst att vi har en syndabock att peka på när du blir jagad av beväpnade drönare.
Citera
2024-09-27, 19:17
  #2600
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av erkki17
Nej, texten handlar om risken med att låta AI ta automatiska beslut eftersom att vi inte kan veta vad den grundar sitt beslut på och därmed inte kan kontrollera att beslutet är korrekt.

Hur vet jag det? Därför att exakt denna problematik tas upp i flera texter om AI och därmed finns med i dess träningsdata.
Om beslutet som AI tar är ett akut hot mot ditt liv då har du fått en helt annan utmaning än källkritik.
Citera
2024-09-27, 19:24
  #2601
Medlem
Bajskottens avatar
Citat:
Ursprungligen postat av Cyborg2030
Ja, människorna som skapar en ASI som tar makten bär ansvar för det. Men det är en klen tröst att vi har en syndabock att peka på när du blir jagad av beväpnade drönare.

Vänta nu. Är du mer rädd för AI än människan?
Citera
2024-09-27, 19:38
  #2602
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Om beslutet som AI tar är ett akut hot mot ditt liv då har du fått en helt annan utmaning än källkritik.
Som vanligt så har du feltolkat en text och sedan naglar du dig fast vid ditt hypotetiska scenario där AI skulle ha givits kontroll över människoliv.

Texten i fråga handlar om risker med dagens AI, t.ex. att en bank skulle kunna låta AI ta automatiska beslut om banklån. Kontrollen av dess beslut har ingenting med källkritik att göra heller. Alla exekutiva beslut måste göras på rimliga grunder och dessa går inte att förklara eller omvärdera om de tas av en AI som inte redogör för varför ett visst beslut har tagits.

Du kan inte rycka saker ur sitt sammanhang och sedan använda det som argument för dina egna påhittade scenarier.
__________________
Senast redigerad av erkki17 2024-09-27 kl. 19:56.
Citera
2024-09-27, 19:51
  #2603
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av Bajskotten
Vänta nu. Är du mer rädd för AI än människan?
Varför är inte du rädd för en digital alien som är tusen gånger smartare än dig? Du kan inte föreställa dig det?
Citera
2024-09-27, 19:56
  #2604
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av erkki17
Som vanligt så har du feltolkat en text och sedan naglar du dig fast vid ditt hypotetiska scenario där AI skulle ha givits kontroll över människoliv.

Texten i fråga handlar om risker med dagens AI, t.ex. att en bank skulle kunna låta AI ta automatiska beslut om banklån. Kontrollen av dess beslut har ingenting med källkritik att göra heller. Alla effektiva beslut måste göras på rimliga grunder och dessa går inte att förklara eller omvärdera om de tas av en AI som inte redogör för varför ett visst beslut har tagits.

Du kan inte rycka saker ur sitt sammanhang och sedan använda det som argument för dina egna påhittade scenarier.
AI kommer inte att användas på det sättet att människor manuellt kvalitetssäkrar och faktagranskar allt som alla AI kommer att göra och fatta beslut om. Speciellt inte när IQ överstiger 300, vilket i dag ser ut som en tidsfråga.
Citera

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in