使用PostgreSQL COPY时出现“错误：上一个预期列之后的额外数据”

COPY raw_data FROM '/home/Projects/TestData/raw_data.txt' WITH (DELIMITER ' ');

create table raw_data ();

ERROR:  extra data after last expected column
COntexT:  COPY raw_data,line 1: "  1   2   3   4   5   6   7   8   9   10  11  12  13  14  15  16  17  18  19  20  21  22  23  24  25  26  27  28  29  30  31  32  33  34  35  36  ..."

1   2   3   4   5   6   7   8   9
binary1 1   1   0   1   1   1   1   1   1
binary2 1   0   0   1   0   1   1   0   0
binary3 1   0   1   1   1   0   0   1   0
binary4 1   1   1   1   0   1   0   1   0

空表不行.

  
   
  create table raw_data (); 

  

您需要与导入数据的结构匹配的表.就像是

create table raw_data (
  col1 int,col2 int
 ...
 );

您不需要将制表符声明为DELIMITER,因为它是默认值：

COPY raw_data FROM '/home/Projects/TestData/raw_data.txt';

你说800列？在10个案例中的9个案例中,这表明您的设计存在问题.通常你不会有那么多列.无论如何,肯定有一些方法可以半自动创建create table脚本.

自动化

假设简化了原始数据

1   2   3   4  -- first row is meant as "column name"
1   1   0   1  -- tab separated
1   0   0   1
1   0   1   1

定义一个不同的DELIMITER(根本不会出现在导入数据中),并导入到具有单个文本列的临时登台表：

CREATE temp table tmp_data (raw text);

COPY tmp_data FROM '/home/Projects/TestData/raw_data.txt' WITH (DELIMITER '§');

此查询创建create table脚本：

SELECT 'create table tbl (col' || replace (raw,E'\t',' bool,col') || ' bool)'
FROM   tmp_data
WHERE  raw ~~ E'1\t2\t3\t4%';   -- criteria to identify row with col names

返回：

create table tbl (col1 bool,col2 bool,col3 bool,col4 bool)

执行(验证有效性后).
然后使用此查询INSERT数据：

INSERT INTO tbl
SELECT (('(' || replace(replace(replace(
                  raw,'1','t'),'0','f'),',')
             || ')')::tbl).*
FROM   tmp_data
WHERE  raw !~~ E'1\t2\t3\t4%';  -- criteria to exclude row with col names

或者,使用translate()更短/更快：

INSERT INTO tbl
SELECT (('(' || translate(raw,E'10\t','tf,') || ')')::tbl).*
FROM   tmp_data
WHERE  raw !~~ E'1\t2\t3\t4%';

这会将字符串转换为兼容格式,以将其强制转换为新创建的表类型,然后使用(row).*将其展开.

全部完成.

您可以将所有这些放入plpgsql函数中,但是您需要防止SQL注入.我在SO上发布了一些类似的解决方案.尝试搜索.
我将不得不留下四件事来解决……

->SQLfiddle demo