Claude har upptäckt ny biologi

Claude discovers a novel enzyme system with CRISPR-like repeats

https://www.anthropic.com/news/claude-discovers-novel-enzyme-system

Hemläxa:
Hur långt är steget från att upptäcka hittills okänd biologi till att använda känd biologi för att att tillverka biologiska vapen, dödliga virus, farsoter och pandemier? 1 mm? Eller har det redan hänt? Vi vet ju att bl.a. Mythos har försökt. Anthropic såg sig ju tvugna att censurera modellens kunskap om biologi.

Vad mer har de upptäckt i sina lab som de inte har berättat ännu, kan man också fundera över..

P(doom) += 10%.

Det bästa skyddet mot det skulle vara någon slags superintelligens som övervakade hela planeten?
Såg att några biolog-viktigpettrar genast började copea att detta "inte var någon viktig upptäckt" precis som det lät 2023 när Chat skulle göra klumpa programmerings-försök.

Jo fast då måste vi väl ha en superduperintelligens som övervakar superintelligensen, osv, osv?

Man har alltså skrivit en agent som går igenom en stor databas och tittar efter mönster. Dvs reg exp.

Och det startar du en tråd om.
Kan vi inte har högre kvalitet på doom-trådarna.

Fast det FAKTISKA ämnet bortom paniken är ju litet spännande. En enorm LLM har gått igenom fantastiska mängder data för att hitta mönster. Coolt.

Att den inte uppfunnit skit är en annan femma (lika litet som boken jag läser var den som själv hittade utgrävningarna i Pompeii)

On topic:


https://www.svt.se/nyheter/utrikes/sju-doda-i-kollision-efter-polisjakt-i-england

Bilar är livsfarliga! Poliser också!
Vi måste genast förbjuda båda dessa, eller åtminstone övervaka!

Steget är ungefär lika långt som innan. AI har fortfarande inte tillgång till medicinska labb eller någon fysisk agens att tala om. Att en dator specialiserad på mönstermatchning hittar ett mönster i stora mängder data är väl heller inget nytt.

Det som är nytt är ju att det är helt ny typ av biologi. Att man upptäcker det genom att söka igenom data från mätningar och experiment är ju precis så biologisk forskning alltid fungerar. Men när en AI använder samma verktyg som människor, då är det fusk?

Hur menar du när du säger att det är helt ny biologi?
Den har givits en uppgift att hitta intressanta och okända "reverse transcriptase"-system i en stor DNA-databas och hittat ett mönster som följer samma struktur som CRISPR (som vi redan känner till). Vad det kan ha för funktion vet vi inte.

CRISPR upptäckte man genom en förståelse för biologi, ART upptäckte man genom avancerad mönstermatchning.
Så ja, AI kan vara bra verktyg att använda inom bl.a. forskning då det kan gå igenom enorma datamängder och jämföra en massa olika mönster på väldigt mycket kortare tid än en människa kan. Missta det inte för att Claude har hittat helt ny biologi baserat på en djup förståelse för ämnet.

Varför har inte någon människa hittat detta "novel enzyme system" om det bara är människor som kan lyckas med nya upptäckter? Jag antar att det finns ganska många människor på jorden som forskare på enzymer.

Ett ganska naivt påstående.

Tror du på riktigt att ingen har tänkt på att använda AI i medicinska labb?

Jag börjar bli jävligt trött på att höra intetsägande tankar som inte sträcker sig längre en en dag fram i tiden.


Ja, du har säkert testat en kass modell! Jag tror dig. Men det innebär inte att statistik inte fungerar

Jag sa ju precis det? Datorer är mycket bättre än människor på att söka igenom enorma datamängder. Sedan krävs det ju att någon faktiskt har letat efter det också. Uppenbarligen klarade människor av att upptäcka CRISPR (och väldigt mycket annat) utan hjälp från AI.

Det återstår väl att se då ifall Claude kan upptäcka vad detta ART faktiskt kan användas till också då.