我在将数据从 csv 导入 MySQL 表时遇到问题。我正在尝试使用“加载数据文件”,但每次我尝试运行我的代码时,我都会得到
"Error Code: 1265. Data Truncated for column 'DIP20' at row 237"
问题源于第 237 行的 DIP20 列是 csv 文件中的第一个空条目,但我的研究表明空条目应该被 MySQL 读取为 0。这会阻止整个导入运行,并且没有数据进入我的表。我一直在尝试找到一种方法来指示 MySQL 接受 Null,但一直找不到任何东西。
我在该领域注意到的其他线程建议修改源数据以将“\N”放入每个空值中,但由于几个原因,这确实不切实际。首先,我有大量的数据要处理,其次,当我完成开发后,我必须将这个数据库留给其他人,当收到更多数据时,他们没有人有时间、能力或意愿编辑数据 future 。
如果有人可以建议一种方法来运行此导入而不落入空值,我将非常感激。
我尝试运行的代码是:
LOAD DATA INFILE '\\\\server\\path\\morepath\\file.csv'
INTO TABLE deidata.tbl_HHDataImport
FIELDS TERMINATED BY ',' ESCAPED BY '\\'
LINES TERMINATED BY '\r\n' STARTING BY ''
IGNORE 1 LINES
表结构如下:
table tbl_HHDataImport
(
CNF_ID VARCHAR(10) PRIMARY KEY,
Read_date Datetime,
DIP1 float,
DIP2 float,
//...{48 DIP columns here}...
DIP47 float,
DIP48 float
)
(这是一个暂存表,我将从中将数据转换为适当的关系结构。这是我收到的数据的格式,我无法更改。)
我习惯于在 MS SQL Server 中开发数据库,但我目前在一家资金紧张的非营利组织工作,所以我被要求使用 MySQL。在我遇到这个问题之前,我以为我可以接受它。我正在使用 MySQL 5.6.13 和 MySQL workbench 6.0。
提前致谢
汤姆
最佳答案
我非常喜欢先将数据加载到临时表中,然后在数据库中进行类型转换。
也就是说,创建一个具有所有相同字段但定义为 varchar(255) 或 nvarchar(255) 的暂存表(取决于 csv 的内容文件)。
这应该正确加载,没有类型转换错误。
然后做类似的事情:
insert into tbl_HHDataImport(Read_Date, DIP1, . . . )
select now(), cast(DIP1 as float), . . .
from tbl_HHDataImport_staging;
当您遇到转换问题时,您可以很容易地确定它。我的猜测是代码应该是这样的:
insert into tbl_HHDataImport(Read_Date, DIP1, . . . )
select now(),
(case when DIP1 <> 'NULL' then cast(DIP1 as float) end), . . .
from tbl_HHDataImport_staging;
关于MySQL 加载数据 Infile - 导致错误 1265 : Data Truncated 的空值,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/18848639/
大约一年前,我决定确保每个包含非唯一文本的Flash通知都将从模块中的方法中获取文本。我这样做的最初原因是为了避免一遍又一遍地输入相同的字符串。如果我想更改措辞,我可以在一个地方轻松完成,而且一遍又一遍地重复同一件事而出现拼写错误的可能性也会降低。我最终得到的是这样的:moduleMessagesdefformat_error_messages(errors)errors.map{|attribute,message|"Error:#{attribute.to_s.titleize}#{message}."}enddeferror_message_could_not_find(obje
我主要使用Ruby来执行此操作,但到目前为止我的攻击计划如下:使用gemsrdf、rdf-rdfa和rdf-microdata或mida来解析给定任何URI的数据。我认为最好映射到像schema.org这样的统一模式,例如使用这个yaml文件,它试图描述数据词汇表和opengraph到schema.org之间的转换:#SchemaXtoschema.orgconversion#data-vocabularyDV:name:namestreet-address:streetAddressregion:addressRegionlocality:addressLocalityphoto:i
鉴于我有以下迁移:Sequel.migrationdoupdoalter_table:usersdoadd_column:is_admin,:default=>falseend#SequelrunsaDESCRIBEtablestatement,whenthemodelisloaded.#Atthispoint,itdoesnotknowthatusershaveais_adminflag.#Soitfails.@user=User.find(:email=>"admin@fancy-startup.example")@user.is_admin=true@user.save!ende
我遵循MichaelHartl的“RubyonRails教程:学习Web开发”,并创建了检查用户名和电子邮件长度有效性的测试(名称最多50个字符,电子邮件最多255个字符)。test/helpers/application_helper_test.rb的内容是:require'test_helper'classApplicationHelperTest在运行bundleexecraketest时,所有测试都通过了,但我看到以下消息在最后被标记为错误:ERROR["test_full_title_helper",ApplicationHelperTest,1.820016791]test
我收到这个错误:RuntimeError(自动加载常量Apps时检测到循环依赖当我使用多线程时。下面是我的代码。为什么会这样?我尝试多线程的原因是因为我正在编写一个HTML抓取应用程序。对Nokogiri::HTML(open())的调用是一个同步阻塞调用,需要1秒才能返回,我有100,000多个页面要访问,所以我试图运行多个线程来解决这个问题。有更好的方法吗?classToolsController0)app.website=array.join(',')putsapp.websiteelseapp.website="NONE"endapp.saveapps=Apps.order("
我是rails的新手,想在form字段上应用验证。myviewsnew.html.erb.....模拟.rbclassSimulation{:in=>1..25,:message=>'Therowmustbebetween1and25'}end模拟Controller.rbclassSimulationsController我想检查模型类中row字段的整数范围,如果不在范围内则返回错误信息。我可以检查上面代码的范围,但无法返回错误消息提前致谢 最佳答案 关键是您使用的是模型表单,一种显示ActiveRecord模型实例属性的表单。c
我正在尝试编写一个将文件上传到AWS并公开该文件的Ruby脚本。我做了以下事情:s3=Aws::S3::Resource.new(credentials:Aws::Credentials.new(KEY,SECRET),region:'us-west-2')obj=s3.bucket('stg-db').object('key')obj.upload_file(filename)这似乎工作正常,除了该文件不是公开可用的,而且我无法获得它的公共(public)URL。但是当我登录到S3时,我可以正常查看我的文件。为了使其公开可用,我将最后一行更改为obj.upload_file(file
我克隆了一个rails仓库,我现在正尝试捆绑安装背景:OSXElCapitanruby2.2.3p173(2015-08-18修订版51636)[x86_64-darwin15]rails-v在您的Gemfile中列出的或native可用的任何gem源中找不到gem'pg(>=0)ruby'。运行bundleinstall以安装缺少的gem。bundleinstallFetchinggemmetadatafromhttps://rubygems.org/............Fetchingversionmetadatafromhttps://rubygems.org/...Fe
在Cooper的书BeginningRuby中,第166页有一个我无法重现的示例。classSongincludeComparableattr_accessor:lengthdef(other)@lengthother.lengthenddefinitialize(song_name,length)@song_name=song_name@length=lengthendenda=Song.new('Rockaroundtheclock',143)b=Song.new('BohemianRhapsody',544)c=Song.new('MinuteWaltz',60)a.betwee
我是Google云的新手,我正在尝试对其进行首次部署。我的第一个部署是RubyonRails项目。我基本上是在关注thisguideinthegoogleclouddocumentation.唯一的区别是我使用的是我自己的项目,而不是他们提供的“helloworld”项目。这是我的app.yaml文件runtime:customvm:trueentrypoint:bundleexecrackup-p8080-Eproductionconfig.ruresources:cpu:0.5memory_gb:1.3disk_size_gb:10当我转到我的项目目录并运行gcloudprevie