Vinnaren i pepparkakshustävlingen!
2019-01-07, 12:11
  #1
Medlem
https://en.wikipedia.org/wiki/Half-p...g-point_format

FP16 är ett format som har blivit "inne" nu när mycket handlar om maskin-inlärning.
Som syns i länken duger det till många beräkningar där man ändå har stor osäkerhet. Jag har funderat på väderprognoser. Man har vindmätare, termometer, luftfuktighetsmätare och barometer. Hur stor precision har dessa? Jag föreställer mej att det sällan är bättre än 5%. Då borde väl FP16 kunna ersätta FP32 eller FP64 som verkar helt onödiga om inte instrumenten kommer ner till typ 0.001% noggrannhet. Vad tycker ni?
Citera
2019-01-07, 12:24
  #2
Medlem
481 WRF använder tydligen FP32 och det är ju vettigare än FP64
http://spec.org/cpu2006/publications...benchmarks.pdf
Citera

Stöd Flashback

Flashback finansieras genom donationer från våra medlemmar och besökare. Det är med hjälp av dig vi kan fortsätta erbjuda en fri samhällsdebatt. Tack för ditt stöd!

Stöd Flashback