Vinnaren i pepparkakshustävlingen!
2023-09-12, 14:53
  #241
Medlem
Citat:
Ursprungligen postat av Tjeeeeeeeeeeeen
Det du söker kan man göra via www.radsoft.se

Det är möjligt som svar på just det inlägget men det brukar alltid vara något som de inte klarar av de där programmen. T.ex. att beräkna på en stor ram och få ner det till rätt nivå. Eller att man ens kan få ut en simpel fil så man kan göra det sista, sådant brukar inte tillåtas.
Citera
2023-09-12, 15:14
  #242
Medlem
Citat:
Ursprungligen postat av Enterprise
Äntligen!

Jag tror vi kan klura ut den sista frågan också. Det tyder på att Spyder av någon anledning är konfigurerat så att arbetsmappen blir en annan än den där .py-filerna ligger.

Om du kör programmet i Spyder så (i varje fall på min burk) står något i still med följande som första rad i Spyder-outputfönstret när man trycker på kör:
Kod:
runfile('C:/Users/Enterprise/.spyder-py3/tipsen8.py', wdir='C:/Users/Enterprise/.spyder-py3')

Notera här att filen som körs ligger i samma mapp som anges i wdir.
Kolla om detta stämmer också hos dig när du kör i Spyder.

Oh yes, nytt rekord i Spyder

Time taken: 6.53 seconds
Avg. time: 0.1741 sec/million iterations
tips.txt skapad med 10000 rader!

Återkommer med beräkning lite senare, har den klar i huvudet och i lite enklare format
Citera
2023-09-12, 19:05
  #243
Medlem
Citat:
Ursprungligen postat av Enterprise
Äntligen!

Jag tror vi kan klura ut den sista frågan också. Det tyder på att Spyder av någon anledning är konfigurerat så att arbetsmappen blir en annan än den där .py-filerna ligger.

Om du kör programmet i Spyder så (i varje fall på min burk) står något i still med följande som första rad i Spyder-outputfönstret när man trycker på kör:
Kod:
runfile('C:/Users/Enterprise/.spyder-py3/tipsen8.py', wdir='C:/Users/Enterprise/.spyder-py3')

Notera här att filen som körs ligger i samma mapp som anges i wdir.
Kolla om detta stämmer också hos dig när du kör i Spyder.

Jag tänkte testa med summa och tolerans som jag brukar, då jag får ut runt 1700 rader, men då måste ju alla 13 miljarder rader köras igenom, vad den tappar fart, så var det ju inte förut, då kördes alla rader på runt 3 timmar, men nu efter att ha kört 1 timme så är är räknaren bara uppe i 2 miljarder, vad kan det bero på ?
Citera
2023-09-12, 19:47
  #244
Medlem
Enterprises avatar
Citat:
Ursprungligen postat av Mysadname
Jag tänkte testa med summa och tolerans som jag brukar, då jag får ut runt 1700 rader, men då måste ju alla 13 miljarder rader köras igenom, vad den tappar fart, så var det ju inte förut, då kördes alla rader på runt 3 timmar, men nu efter att ha kört 1 timme så är är räknaren bara uppe i 2 miljarder, vad kan det bero på ?
Svårt att säga. Har du ställt in 16 processer i max_num_of_workers?
Använder du datorn till något annat under tiden?
__________________
Senast redigerad av Enterprise 2023-09-12 kl. 19:51.
Citera
2023-09-12, 19:58
  #245
Medlem
Citat:
Ursprungligen postat av Enterprise
Svårt att säga. Har du ställt in 16 processer i max_num_of_workers?
Använder du datorn till något annat under tiden?

Oj, nä inget annat igång och den stod på 8, körde igång på nytt och den börjar snabbt iaf. men nu ser det ut som det kanske tappar fart igen, vad konstigt.
Citera
2023-09-13, 00:51
  #246
Medlem
Citat:
Ursprungligen postat av Enterprise
Svårt att säga. Har du ställt in 16 processer i max_num_of_workers?
Använder du datorn till något annat under tiden?

Märkligt, jag ändrade till 16, och inget annat igång, det gick snabbt i början tills den började hitta godkända rader, då började den tappa fart, kan det vara så att det går långsammare när den väl hittar något den ska ha i minnet samtidigt som den ska leta vidare, tänkte inte på det men förut var det väl så att den skrev raderna till fil allt eftersom de hittades, borde väl vara så nu också?
Citera
2023-09-13, 14:12
  #247
Medlem
Enterprises avatar
Citat:
Ursprungligen postat av Mysadname
Märkligt, jag ändrade till 16, och inget annat igång, det gick snabbt i början tills den började hitta godkända rader, då började den tappa fart, kan det vara så att det går långsammare när den väl hittar något den ska ha i minnet samtidigt som den ska leta vidare, tänkte inte på det men förut var det väl så att den skrev raderna till fil allt eftersom de hittades, borde väl vara så nu också?
Nej, det är inte en rimlig förklaring att minnet för en lista på uppemot 10 000 rader skulle påverka hastigheten alls.
Nu är jag inte insatt i hur Itertools fungerar "under the hood", om det är så att det finns en "startup"-tid för att räkna fram till ett högre startbelopp, det skulle i så fall förklara inbromsningen. Men det låter ju i så fall urbota dumt och gör i så fall prestandanyttan med Itertools högst tveksam.

Om du tar upp resursövervakaren medans du kör, kan du se om CPU-kärnornas aktivitet avtar eller om den är konstant, när det börjar bli långsammare?

Kan du se din CPU-temperatur på något sätt?
Så att det inte någon form av throttling som gör att det går långsammare (övernyttjande/överhettning som innebär att CPU går långsammare).

Du kör väl inte i batteriläge på en laptop?
__________________
Senast redigerad av Enterprise 2023-09-13 kl. 14:17.
Citera
2023-09-13, 14:54
  #248
Medlem
Citat:
Ursprungligen postat av Enterprise
Nej, det är inte en rimlig förklaring att minnet för en lista på uppemot 10 000 rader skulle påverka hastigheten alls.
Nu är jag inte insatt i hur Itertools fungerar "under the hood", om det är så att det finns en "startup"-tid för att räkna fram till ett högre startbelopp, det skulle i så fall förklara inbromsningen. Men det låter ju i så fall urbota dumt och gör i så fall prestandanyttan med Itertools högst tveksam.

Om du tar upp resursövervakaren medans du kör, kan du se om CPU-kärnornas aktivitet avtar eller om den är konstant, när det börjar bli långsammare?

Kan du se din CPU-temperatur på något sätt?
Så att det inte någon form av throttling som gör att det går långsammare (övernyttjande/överhettning som innebär att CPU går långsammare).

Du kör väl inte i batteriläge på en laptop?

Om du hinner innan jag är hemma från jobbet så sätt summa 200 och tolerans 0.00001 så ser du snart hur den saktar ner
Citera
2023-09-13, 16:31
  #249
Medlem
Enterprises avatar
Citat:
Ursprungligen postat av Mysadname
Om du hinner innan jag är hemma från jobbet så sätt summa 200 och tolerans 0.00001 så ser du snart hur den saktar ner
Jag är på resande fot, får se vad jag hinner ikväll.
Citera
2023-09-13, 18:00
  #250
Medlem
Citat:
Ursprungligen postat av Enterprise
Nej, det är inte en rimlig förklaring att minnet för en lista på uppemot 10 000 rader skulle påverka hastigheten alls.
Nu är jag inte insatt i hur Itertools fungerar "under the hood", om det är så att det finns en "startup"-tid för att räkna fram till ett högre startbelopp, det skulle i så fall förklara inbromsningen. Men det låter ju i så fall urbota dumt och gör i så fall prestandanyttan med Itertools högst tveksam.

Om du tar upp resursövervakaren medans du kör, kan du se om CPU-kärnornas aktivitet avtar eller om den är konstant, när det börjar bli långsammare?

Kan du se din CPU-temperatur på något sätt?
Så att det inte någon form av throttling som gör att det går långsammare (övernyttjande/överhettning som innebär att CPU går långsammare).

Du kör väl inte i batteriläge på en laptop?

Nu har jag kört igång, får se om jag kan svara på dina frågor.
Resursövervakaren säger 100% CPU och hittade även en prestandaövervakare i realtid som säger 100% CPU.

CPU temperaturen har jag inte hittat ännu.

Laptop med nät och datorn är inställd på högt prestandaläge, kommer upp en ruta om det när jag startar om.

Hmm, när jag startar igång det äldre scriptet utan itertools, där Fullträff tar ca 3h så visar resursövervakaren CPU på runt 5%, och ser ut att hålla samma fart som när itertools scriptet har saktat ner, mycket märkligt.

Testade att köra några gånger med itertools, summa 250 och 0.01, blev så här:

555 million iterations, 10003 rows found
Time taken: 287.65 seconds
Avg. time: 0.5183 sec/million iterations
tips.csv skapad med 10000 rader!

240 och 0.01

218 million iterations, 10062 rows found
Time taken: 59.65 seconds
Avg. time: 0.2736 sec/million iterations
tips.txt skapad med 10000 rader!

230 och 0.01

143 million iterations, 9967 rows found
Time taken: 33.07 seconds
Avg. time: 0.2305 sec/million iterations
tips.txt skapad med 10000 rader!

200 och 0.001

295 million iterations, 10017 rows found
Time taken: 95.36 seconds
Avg. time: 0.3233 sec/million iterations
tips.txt skapad med 10000 rader!
__________________
Senast redigerad av Mysadname 2023-09-13 kl. 18:34.
Citera
2023-09-13, 21:58
  #251
Medlem
Enterprises avatar
Citat:
Ursprungligen postat av Mysadname
CPU temperaturen har jag inte hittat ännu.
Kolla gärna: https://www.alcpu.com/CoreTemp/
Citera
2023-09-14, 18:38
  #252
Medlem
Citat:
Ursprungligen postat av Enterprise
Kolla gärna: https://www.alcpu.com/CoreTemp/

Äntligen fick jag lite tid över att testa lite.

Intressant (tror jag), en del kärnor går ju varma och cpu frekvensen går ner, om jag däremot istället kör det gamla skriptet så går cpu frekvensen upp och fläktar tystnar, samma om jag ställer ner antal workers till 1, eller finns det något annat jag skulle kolla upp, något annat som man kan justera.
Jag tänker att även om man bara dubblar farten så har man tjänat halva tiden om det nu fungerar så, men det borde ju förklara varför den tappar i fart, så jag hoppas du har en lösning som kan vara värd att prova.
Citera

Stöd Flashback

Flashback finansieras genom donationer från våra medlemmar och besökare. Det är med hjälp av dig vi kan fortsätta erbjuda en fri samhällsdebatt. Tack för ditt stöd!

Stöd Flashback