När når vi AGI?

Nja. Vad är logik, egentligen? Logiska grindar, är det logik? https://sv.wikipedia.org/wiki/Logisk_grind
Chat GPT kan mycket mer om logiska grindar än den genomsnittliga personen på gatan. LLMs har lärt sig om logiska grindar precis som mänskliga ingenjörer har lärt sig det i sin utbildning och träning.

Mänskliga chaufförer kan vanligtvis inte mycket om logiska grindar. Tekniska kunskaper i logik är inget vi föds med. Stenåldersmänniskan kunde ingenting om logiska grindar. Detta är något vi har upptäckt på senare tid i mänsklighetens historia genom utbildning/träning av den potential som finns i vårt neurala nätverk.

Exakt vilken magisk förmåga saknar digitala neurala nätverk för att vara bra på logik? Varför är det överlägset bäst att träna ett biologiskt neuralt nätverk?

Saken är väl den att AGI, för att kunna kallas generell intelligens och kunna utföra alla logiska uppgifter på mänsklig nivå, måste kunna använda sig av formell logik. Approximeringar kan räcka långt om de är korrekt underbyggda, men det är inte tillräckligt för arbete där det krävs precision.

Gällande vad som saknas så kan vi återgå till mitt tidigare inlägg där en studie visar att LLM:er endast använder sig av heuristik för att lösa matematiska och logiska problem. Så länge sådant är fallet (och om det visar sig stämma) så lär det krävas mer än bara uppskalning och/eller kombination av olika agenter för att nå AGI.

År 2045 är den teoretiska tidpunkten för när artificiell intelligens blir smartare än människan benämns inom populärkulturen som singulariteten förutspår Ray Kurzweil, Head of Engineering på Google.
https://sv.wikipedia.org/wiki/The_Singularity_Is_Near

Håller med i stort, men en människa kan ju vara generellt intelligent utan att vara ”formellt logisk”.

Raymond Kurzweil har sagt så mycket skitsnack i sitt liv att det är förvånande om någon lyssnar på honom längre.

Någon head of engineering på google har är han inte heller eller någonsin varit.

Det beror väl på hur man definierar intelligens i så fall.
Sedan går det såklart att tänka logiskt utan kunskap i formell logik som sådant, så det var kanske slarvigt uttryckt.

Saken är väl den att AGI, för att kunna kallas generell intelligens och kunna utföra alla logiska uppgifter på mänsklig nivå, måste kunna använda sig av formell logik. Approximeringar kan räcka långt om de är korrekt underbyggda, men det är inte tillräckligt för arbete där det krävs precision.

Gällande vad som saknas så kan vi återgå till mitt tidigare inlägg där en studie visar att LLM:er endast använder sig av heuristik för att lösa matematiska och logiska problem. Så länge sådant är fallet (och om det visar sig stämma) så lär det krävas mer än bara uppskalning och/eller kombination av olika agenter för att nå AGI.

Logik och känslor är tänkande. Neurala nätverk kan ingenting om tänkande bara approximationer efter sannolikheter på data de tränats på. Vad skulle AGI vara när den inte kan tänka? Ta sen alla som är förbluffande över LLM och tycker den kan tänka eller är intelligent.

Vad logik är är svårförklarat. Enda sättet är väl att läsa en bok eller kurs om det, så man gradvis bygger en förståelse. Logiska grindar är realiseringar av några grundläggande logiska uppställningar/sanningstabeller. Ev. ”teknisk kunskap” i sammanhanget har inget med logik att göra. Det är inget ingenjörsämne.

I många fall tänker vi intuitivt logiskt, t.ex. orsak och verkan men det kan också leda fel. Logiken är ett sätt att försöka formalisera detta så det blir lättare att tänka ”rätt”.