限りなく小さくする
古いfortranのプログラムを読んでいたら
EPS = 1.0
10 EPS = EPS/2.0
S = 1.0 + EPS
IF (S .GT. 1.0) GO TO 10
というコードをみつけて?となったがすぐに限りなく小さいの求め方か!と気がついた。
pythonだとこんな感じ
eps = 1.0
while eps+1.0 > 1.0: eps = eps/2.0
# eps=1.1102230246251565e-16
古いfortranのプログラムを読んでいたら
EPS = 1.0
10 EPS = EPS/2.0
S = 1.0 + EPS
IF (S .GT. 1.0) GO TO 10
というコードをみつけて?となったがすぐに限りなく小さいの求め方か!と気がついた。
pythonだとこんな感じ
eps = 1.0
while eps+1.0 > 1.0: eps = eps/2.0
# eps=1.1102230246251565e-16