Question

sqoop将hdfs下的数据导入到mysql如何去重

Answer 1

在MYSQL中创建一个参数表A，用来记录要传输的表的表名B和字段。 2、HDFS上的数据的格式和MYSQL中参数表A中B表的字段的数量一样。