jjzjj

floating-accuracy

全部标签

ruby - 如何将 float 格式化为一定数量的小数和整数?

我正在尝试将Ruby中的float格式化为四位数字,包括小数点。例如:1=>01.002.4=>02.401.4455=>01.45现在,我正在尝试按如下方式格式化float:str_result="%.2f"%result这成功地将小数位数限制为两位。我还知道:str_result="%2d"%result它成功地将1转换为01,但丢失了小数位。我试着像这样组合这些:str_result="%2.2f"%result没有明显效果。它与%.2f具有相同的结果。有没有办法强制Ruby将字符串格式化为这种四位数格式? 最佳答案 您可以使

ruby-on-rails - Ruby float 学 - Sum Calc 中的精度问题

大家早上好我在float学方面遇到了一些问题,完全迷失在“.to_f”、“*100”和“.0”中!我希望有人能帮助我解决我的具体问题,并准确解释他们的解决方案为何有效,以便我下次理解这一点。我的程序需要做两件事:对一组小数求和,确定它们的和是否正好为1.0确定1.0与数字总和之间的差值-将变量的值设置为使总和等于1.0的精确差值。例如:[0.28,0.55,0.17]->总和应为1.0,但我一直得到1.xxxxxx。我正在以下列方式实现总和:sum=array.inject(0.0){|sum,x|sum+(x*100)}/100我需要此功能的原因是我正在读取一组来自excel的小数。

ruby - 将字符串数组转换为 float 数组

我正在编写一个围绕从文件中获取数字数据集的应用程序。然而,由于数据是以字符串形式获取的,我必须将其转换为float,这就是乐趣所在。我的代码的相关部分如图所示(第65-73行):ft=[]puts"FileName:#{ARGV[0]}"File.open(ARGV[0],"r")do|file|file.each_linedo|line|ft这在irb中工作得很好,也就是说,最后一行将数组更改为float。irb(main):001:0>ft=["10","23","45"]=>["10","23","45"]irb(main):002:0>ft.collect!{|i|i.to_f

ruby floats 根据顺序加起来不同的值

所以这很奇怪。我在Ruby1.9.3中,float加法没有像我预期的那样工作。0.3+0.6+0.1=0.99999999999999990.6+0.1+0.3=1我在另一台机器上试过了,得到了同样的结果。知道为什么会发生这种情况吗? 最佳答案 浮点运算是不精确的:它们将结果四舍五入到最接近的可表示浮点值。这意味着每个float操作是:float(aopb)=mathematical(aopb)+rounding-error(aopb)如上式所示,舍入误差取决于操作数a和b。因此,如果您以不同的顺序执行操作,float(float(

ruby - 如何从 ruby​​ 中的字符串中提取 float ?

很难说出这里要问什么。这个问题模棱两可、含糊不清、不完整、过于宽泛或夸夸其谈,无法以目前的形式得到合理的回答。如需帮助澄清此问题以便重新打开,visitthehelpcenter.关闭10年前。我有一个包含不同货币数量的字符串,例如,"454,54$","Rs566.33","discount88,0$"etc.模式不一致,我只想从字符串和货币中提取float。我如何在Ruby中实现这一点?

ruby - ruby-1.9.2 添加错误

这个问题在这里已经有了答案:ruby:convertingfromfloattointegerinrubyproducesstrangeresults(3个答案)关闭4年前。当我添加0.1+0.2时我得到0.30000000000000004但是当我在ruby1.8.7中添加相同的数字时我得到正确答案0.3.我得到0.3通过四舍五入,但我只想得到0.3在ruby1.9.2通过添加0.1和0.2

ruby - 在 Ruby 的 BigDecimal 中是否使用 String 或 Integer

引用BigDecimal类的文档,n,m=a.precsprecreturnsnumberofsignificantdigits(n)andmaximumnumberofsignificantdigits(m)ofa.我对以下与BigDecimal相关的输出感到困惑。require'bigdecimal'BigDecimal.new('1').precs#=>[9,18]BigDecimal.new(1).precs#=>[9,27]我不明白为什么当传递String时,有效数字的最大数目比传递Fixnum时少。它还会导致任何精度问题吗? 最佳答案

Ruby 浮点精度

据我了解,Ruby(1.9.2)float的精度为15位十进制数字。因此,我希望将floatx舍入到小数点后15位将等于x。对于此计算,情况并非如此。x=(0.33*10)x==x.round(15)#=>false顺便说一句,四舍五入到16位返回true。你能给我解释一下吗? 最佳答案 部分问题是0.33在底层格式中没有精确的表示,因为它不能用一系列1/2n项来表示。因此,当它乘以10时,乘以的数字与0.33略有不同。就此而言,3.3也没有精确表示。第一部分当数字没有精确的10进制表示时,在转换尾数中有信息的最低有效位时会有余数。

Ruby 并为 Float 实例修改自身

我想更改float实例的self值。我有以下方法:classFloatdefround_by(precision)(self*10**precision).round.to_f/10**precisionendend我想添加round_by!修改自身值的方法。classFloatdefround_by!(precision)self=self.round_by(precision)endend但是我得到一个错误,说我不能改变self的值。有什么想法吗? 最佳答案 您不能更改self的值。它总是指向当前对象,你不能让它指向别的东西。当

ruby-on-rails - 将 float 舍入到 Ruby 中最近的四分之一

我在RubyonRails应用程序中使用外部API。我需要向这家公司发送花车,但他们只接受1.0、1.25、1.5、1.75等值,2.0等我的值可能类似于1.34或1.80。理想情况下,我需要将它们四舍五入到最接近的0.25。完成此任务的最佳方法是什么?如果我执行1.34.round(0),它会给我1.0,这比我需要的要低。谢谢! 最佳答案 (1.27*4).round/4.0#=>1.25如果你打算经常使用它,猴子修补Float类是非常有意义的,以简化使用:classFloatdefround_to_quarter(self*4)