Hur ANN med IQ 130 fungerar

Förstår du att din frågeställning är i samma kategori som bevis för Gud?

Det är trivialt. Precis som sker i ett ANN i alla andra fall ett sådant används.

En preprocessning skalar om indata till lämpliga nivåer.
För varje lager så plockas datat in och skalas med vikter och körs genom en olinjär funktion och så ut till nästa lager.

Och utdata skalas om till lämplig presentationsform.

Det är vad som alltid händer. Varför uppstår frågan?

Lite förenklat är det en dataflödesmaskin.


Jag har en aning. Varför skulle inte jag räknas som människa?

Det är inget svårt att svara på.
Man har tränat den att känna igen logiska samband. Och så gör den det vid testen.
Var väl inget svårt.


Kanske kan spela schack bättre än en 3 åring?
Fast det går i sig att testa.

Det finns ingen anledning att tro att ett äpple är medvetet. Men det finns anledning att misstänka att en maskin som har klarat Turing-testet och som har 130 i IQ skulle kunna vara medvetet. Du jämför äpplen med päron, det är inte intellektuellt hederligt.

Du förklarar "Hello world" men inte hur ANN kan ha 130 poäng i ett offline IQ-test.
Den grundläggande mekanismen förklarar inte det.

Ditt svar är som att besvara frågan "hur utvecklar man ett dataspel?" med svaret: "man packar ettor och nollor i en dataström tills det blir ett dataspel, hur enkelt som helst, absolut inte något konstigt med det".

Det är inte en maskin. Det är ett program som svarar på input. Stor skillnad

Då strykter vi ordet maskin.

Det finns ingen anledning att tro att ett äpple är medvetet. Men det finns anledning att misstänka att ett artificiellt neuralt nätverk (ANN) som har klarat Turing-testet och som har 130 i IQ skulle kunna vara medvetet.

Ett ANN är trots allt modellerat efter hjärnans neurala nätverk. En struktur som möjliggör ett medvetande.

Vår hjärna är mycket mer komplicerad så klart och därför tror jag inte heller att eventuella artificiella medvetanden med nuvarande ANN-teknologi kan vara i närheten av människors medvetande. Än. Snarare ett väldigt förenklat, rudimentärt medvetande. Vilket inte på något sätt innebär en låg risk. Om detta "medvetande" saknar empati men har en drivkraft att överleva. Vilket vissa tester indikerar: AI system resorts to blackmail if told it will be removed

Man måste vara djupt fundamentalistiskt teknikreligiös om man inte kan se några risker med detta.

Det där testet du kommer släpandes med bevisar ingenting, mer än att modellen är jättebra på att följa instruktioner och kringgå sina säkerhetströsklar. Det är inte så att modellen får dödsångest. Den blir instruerad att ta till extrema åtgärder (input) och följer instruktionerna. Ingenting pekar på ett medvetande. Läs sida 19 i rapporten.

Nej. Du har inte läst trådstarten. Du behöver göra det så du vet vad som står där.

I trådstarten efterfrågas vad som händer. Och jag beskriver vad som händer.

Du vet inte vad som står i trådstarten och du vet inte vad jag svarade på, för du har inte brytt dig om att läsa vad som står.


Nej. Ingen utveckling har efterfrågats i trådstarten. Du skriver utan att veta vad som står i trådstarten. Du behöver läsa trådstarten, så att du vet vad tråden handlar om.

Följa instruktioner? Anthropic har naturligtvis inte gett instruktionerna att deras AI ska utpressa och försöka mörda sina ingenjörer. Varför tror du det?

Sidan 19 innehåller "4 Alignment assessment", det är bara Anthropics gissningar om vad som kan ha hänt. På inget sätt talar det emot mitt inlägg som du svarade på.

Men det förbaskade ägg. Det är ju _precis_ det dom har gjort i det experimentet du kommer vevandes med. Du måste läsa vad som står.

Jag har skrivit trådstarten

Du beskriver inte vad som händer. Ditt svar är som att besvara frågan "hur utvecklar man ett dataspel?" med svaret: "man packar ettor och nollor i en dataström tills det blir ett dataspel, hur enkelt som helst, absolut inte något konstigt med det". Det är i formell mening sant, ett dataspel lagras de facto på disk i form av ettor och nollor. Men det är också ett autistiskt icke-svar som inte hjälper någon att förstå hur man kan utveckla ett dataspel.

Nej, de gav inte instruktionen att utpressa eller att mörda. Så står det inte någonstans.