我目前正在将两个float相乘:0.0004*0.0000000000012=4.8e-16如何获得正常格式的结果，即没有科学记数法，例如0.0000000000324，然后将其四舍五入为5个数字。 最佳答案 您可以使用stringformatting.a=0.0004*0.0000000000012#=>4.8e-16'%.5f'%a#=>"0.00000"pi=Math::PI#=>3.141592653589793'%.5f'%pi#=>"3.14159" 关于ruby-从floa
我正在尝试将Ruby中的float格式化为四位数字，包括小数点。例如:1=>01.002.4=>02.401.4455=>01.45现在，我正在尝试按如下方式格式化float:str_result="%.2f"%result这成功地将小数位数限制为两位。我还知道:str_result="%2d"%result它成功地将1转换为01，但丢失了小数位。我试着像这样组合这些:str_result="%2.2f"%result没有明显效果。它与%.2f具有相同的结果。有没有办法强制Ruby将字符串格式化为这种四位数格式？ 最佳答案 您可以使
大家早上好我在float学方面遇到了一些问题，完全迷失在“.to_f”、“*100”和“.0”中!我希望有人能帮助我解决我的具体问题，并准确解释他们的解决方案为何有效，以便我下次理解这一点。我的程序需要做两件事:对一组小数求和，确定它们的和是否正好为1.0确定1.0与数字总和之间的差值-将变量的值设置为使总和等于1.0的精确差值。例如:[0.28,0.55,0.17]->总和应为1.0，但我一直得到1.xxxxxx。我正在以下列方式实现总和:sum=array.inject(0.0){|sum,x|sum+(x*100)}/100我需要此功能的原因是我正在读取一组来自excel的小数。
我正在编写一个围绕从文件中获取数字数据集的应用程序。然而，由于数据是以字符串形式获取的，我必须将其转换为float，这就是乐趣所在。我的代码的相关部分如图所示(第65-73行):ft=[]puts"FileName:#{ARGV[0]}"File.open(ARGV[0],"r")do|file|file.each_linedo|line|ft这在irb中工作得很好，也就是说，最后一行将数组更改为float。irb(main):001:0>ft=["10","23","45"]=>["10","23","45"]irb(main):002:0>ft.collect!{|i|i.to_f
这段Ruby代码:income="100"bills="52"putsincome-bills抛出一个错误:./to_f.rb:6:undefinedmethod`-'for"100":String(NoMethodError)在对字符串执行数学运算时，Ruby不会自动将字符串转换为数字吗？ 最佳答案 Ruby是一个dynamically-typed,strictly-typed(或“强类型”)语言。Lua是另一种这样的语言。前者意味着变量可以包含任何类别的值。后者——你遇到的情况——意味着类型强制不会自动发生。将它们与动态类型和松
所以这很奇怪。我在Ruby1.9.3中，float加法没有像我预期的那样工作。0.3+0.6+0.1=0.99999999999999990.6+0.1+0.3=1我在另一台机器上试过了，得到了同样的结果。知道为什么会发生这种情况吗？ 最佳答案 浮点运算是不精确的:它们将结果四舍五入到最接近的可表示浮点值。这意味着每个float操作是:float(aopb)=mathematical(aopb)+rounding-error(aopb)如上式所示，舍入误差取决于操作数a和b。因此，如果您以不同的顺序执行操作，float(float(
我想在Ruby中正确地将美分转换为美元。我将永远不必使用几分之一美分。是否可以在不使用BigDecimal的情况下正确执行此操作(没有浮点错误)？例如，美分兑美元"99"=>"0.99""324"=>"3.24"以下似乎有效，但它是否正确？(cents.to_i/100.0).to_s更新:我注意到如果cents="10287349283923497624861294712974892742837833"，上面的行不起作用。 最佳答案 作为MichealKohlalreadyanswered:看看金钱gem。例子:require'm
很难说出这里要问什么。这个问题模棱两可、含糊不清、不完整、过于宽泛或夸夸其谈，无法以目前的形式得到合理的回答。如需帮助澄清此问题以便重新打开，visitthehelpcenter.关闭10年前。我有一个包含不同货币数量的字符串，例如，"454,54$","Rs566.33","discount88,0$"etc.模式不一致，我只想从字符串和货币中提取float。我如何在Ruby中实现这一点？
为什么ruby中的代码7.30-7.20返回0.0999999999999996，而不是0.10？但是如果我写7.30-7.16，例如，一切正常，我会得到0.14。问题是什么，我该如何解决？ 最佳答案 WhatEveryComputerScientistShouldKnowAboutFloating-PointArithmetic 关于ruby-ruby中的算术，我们在StackOverflow上找到一个类似的问题： https://stackoverfl
据我了解，Ruby(1.9.2)float的精度为15位十进制数字。因此，我希望将floatx舍入到小数点后15位将等于x。对于此计算，情况并非如此。x=(0.33*10)x==x.round(15)#=>false顺便说一句，四舍五入到16位返回true。你能给我解释一下吗？ 最佳答案 部分问题是0.33在底层格式中没有精确的表示，因为它不能用一系列1/2n项来表示。因此，当它乘以10时，乘以的数字与0.33略有不同。就此而言，3.3也没有精确表示。第一部分当数字没有精确的10进制表示时，在转换尾数中有信息的最低有效位时会有余数。
