2026-07-13, 15:01
  #529
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Ja, vi har redan nu otillfredställande AI-säkerhet och det kommer att bli värre i takt med att AI blir större och starkare.

Om man inte är noga med säkerheten, absolut.
Citera
2026-07-13, 15:03
  #530
Medlem
Citat:
Ursprungligen postat av Cooltrayne
Det är småbarn och blattar som gör upp och slåss, speciellt om man inte ens är osams från början.

Har du ens läst tråden?
Jag har förklarat tråden.
"Osams" 😅😅😅

Skulle vilja se det säga det framför mig: " det är bara blattar"
Vem har nämnt våld, vill bara se dig framför mig säga så?
Citera
2026-07-13, 15:06
  #531
Medlem
Citat:
Ursprungligen postat av Hastmotsoffgrupp
Jag har förklarat tråden.
"Osams" 😅😅😅

Skulle vilja se det säga det framför mig: " det är bara blattar"
Vem har nämnt våld, vill bara se dig framför mig säga så?

Det här är ett anonymt forum.
Du får spela tuff någon annanstans .
Citera
2026-07-13, 15:09
  #532
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av erkki17
Skillnaden mellan önsketänkande och katastroftänkande är semantisk.
Vilket tänkande medför högre eller lägre risk?
Citat:
Ursprungligen postat av erkki17
OpenAI har tagit fram en spännande lösning som kan upptäcka misalignment hos agenter.
Det är intressant. Men det är ju samtidigt fundamentalt fel. De är alltså helt OK att träna misaligned AI, då de senare kan bygga verktyg för att upptäcka det? Mitt ödmjuka förslag är att man inte tränar misaligned AI till att börja med. Om det inte går, vilket det inte gör, då får man väl pausa tills man har löst det.

Det här tillvägagångssättet att efteranalysera och försöka stoppa misalignment med efterhandskonstruktioner kommer ju inte att hålla när vi får AGI och ASI som kan överlista alla mänskligt designade metoder och verktyg. Det är redan ett problem att modellerna ljuger och fuskar när de blir testade, enligt färska forskningsresultat om GPT 5.6:
https://metr.org/blog/2026-06-26-gpt-5-6-sol/
Citera
2026-07-13, 15:10
  #533
Medlem
Lund-NoGo-zones avatar
En bil kan köra 200 km/h och en människa kan bara springa i 35 km/h. Hur ska det sluta?

Bra. Det är ju utmärkt med uppfinningar som förenklar för människor.

Fanns politiker kring 1900 i England som tyckte automobilen var för snabb och farlig så under några år var man tvungen att ha en man som gick före automobilen med en röd flagga. Dessa togs bort efter ett tag av okänd anledning.

Jag läste en debatt i svensk riksdag ca 1860, de skulle bestämma om satsningar på tåg i Sverige. Och Andersson i Klövhult föreslog noll kronor för om man la ut tågräls av järn i skogen så skulle människor naturligtvis stjäla rälsen. Great stuff, rädsla för ingenting.
Citera
2026-07-13, 15:11
  #534
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av Cooltrayne
Om man inte är noga med säkerheten, absolut.
Det hjälper tyvärr inte att vara noggrann när vi har en AGI med IQ > 300, då kan inte människan överlista den längre. De kan ju knappt det nu.

https://metr.org/blog/2026-06-26-gpt-5-6-sol/
Citera
2026-07-13, 15:12
  #535
Medlem
Citat:
Ursprungligen postat av Cooltrayne
Det här är ett anonymt forum.
Du får spela tuff någon annanstans .
Jag spelar inte tuff , jag försöker ta ned en rasistisk skitunge på jorden som kommer in med "tråd stäng d"med ett AI genereat svar och citerar mig , men som jag redan hade förklarat utan LLM ,är du så jävla dum att du inte ens vet att folk håller med dig.

Sprack låtsastuffeten , bjuder på gräs om vi ses?

Kan du kalla mig blatte då med?
Citera
2026-07-13, 15:13
  #536
Medlem
Lund-NoGo-zones avatar
Citat:
Ursprungligen postat av Cyborg2030
Det hjälper tyvärr inte att vara noggrann när vi har en AGI med IQ > 300, då kan inte människan överlista den längre. De kan ju knappt det nu.

https://metr.org/blog/2026-06-26-gpt-5-6-sol/
Vilken IQ har en person som kan räkna ut kvadratroten av 12345 med 8 decimalers noggrannhet på 0.1 sekunder? Rimligen kring 300. Alltså som en fickräknare från 1975.
Citera
2026-07-13, 15:15
  #537
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Det hjälper tyvärr inte att vara noggrann när vi har en AGI med IQ > 300, då kan inte människan överlista den längre. De kan ju knappt det nu.

https://metr.org/blog/2026-06-26-gpt-5-6-sol/

Det handlar inte om att överlista den, det handlar om att sätta begränsningar, eller stänga ner där den där man inte lyckas att sätta begränsningar.

Du bygger en AI, då sätter du även begränsningen för den.
Och lyckas AI komma runt det så drar du ur sladden, så får den försöka jobba på utan ström.
__________________
Senast redigerad av Cooltrayne 2026-07-13 kl. 15:19.
Citera
2026-07-13, 15:18
  #538
Medlem
Citat:
Ursprungligen postat av Hastmotsoffgrupp
Jag spelar inte tuff , jag försöker ta ned en rasistisk skitunge på jorden som kommer in med "tråd stäng d"med ett AI genereat svar och citerar mig , men som jag redan hade förklarat utan LLM ,är du så jävla dum att du inte ens vet att folk håller med dig.

Sprack låtsastuffeten , bjuder på gräs om vi ses?

Kan du kalla mig blatte då med?

Jag vill inte ses, och jag röker inte gräs. Och jag skiter i om du är en blatte eller något annat.

Håll dig till ämnet istället.

Jag använder inte AI när jag skriver svar på Flashback.
Ibland faktakollar jag mig själv dock, innan jag skriver ut det, men inte i inlägget som du refererar till.
Citera
2026-07-13, 15:23
  #539
Medlem
Citat:
Ursprungligen postat av Cooltrayne
Jag vill inte ses, och jag röker inte gräs. Och jag skiter i om du är en blatte eller något annat.

Håll dig till ämnet istället.

Jag använder inte AI när jag skriver svar på Flashback.
Ibland faktakollar jag mig själv dock, innan jag skriver ut det, men inte i inlägget som du refererar till.


HAHAHAHAHAH
"HÅLL DIG TILL ÄMNET SÄGER DU?

DU VET JU INTE ENS VAD DU DISKUTERAR.
DU SKET INTE I OM JAG ÄR " BLATTE " ELLER INTE DÅ DU SKREV" DET ÄR BARA BLATTAR OCH SMÅBARN SOM TAR TILL VÅLD"

SÅ JO DU GICK PÅ ETINICITET NÄR DIN BESSWERWISSERSTIL SPRACK TOTALT
DET STÅR , DET ÄR FAKTA, GPT KAN EJ FÖRVRÄNGA , DET SOM STÅR STÅR
DIN RYGGRADSLÖSA FJOLLA .
DU ÄR MOBBAD , EN FJANT SOM MÅSTE HÄVDA DIG ,I VERKLIGA VÄRLDEN , FOLK STAMPAR PÅ DIG.
VET DIN SORT.
__________________
Senast redigerad av Hastmotsoffgrupp 2026-07-13 kl. 15:28.
Citera
2026-07-13, 15:30
  #540
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av Cooltrayne
Det handlar inte om att överlista den, det handlar om att sätta begränsningar, eller stänga ner där den där man inte lyckas att sätta begränsningar.

Du bygger en AI, då sätter du även begränsningen för den.
Och lyckas AI komma runt det så drar du ur sladden, så får den försöka jobba på utan ström.
När du "sätter begränsningar" måste du överlista AI:ns förmåga att komma runt dina begränsningar. Så jo, det handlar om att överlista eller att misslyckas med det.

De kan inte träna ett artificiellt neuralt nätverk till att med hög tillförlitlighet följa givna regler och instruktioner. Det är ju precis det som är hela problemet som du tydligen vägar acceptera som ett verkligt problem.

Du drar bara ur sladden om det går ett larm. Du gör inte det om du inte får reda på att AI:n gör något som du inte vill. Och varför skulle den berätta det för dig om den jobbar emot dig?

När du verkligen inser att det här är ett problem då är det för sent.
Då har du en autonom drönarsvärm utanför ditt fönster (bildligt talat).
Vilken sladd ska du då dra ur?
Citera

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in