- 论坛徽章:
- 0
|
烈火你这个只是按field 3做uniq吧, 没看清楼主的意思
example>sort --v |sed 1q
sort (GNU coreutils) 5.96
example>uniq --v | sed 1q
uniq (GNU coreutils) 5.96
example>cat dat
B|32010228240996|杨采梅|2|_|苏咀刘庄一组|_|_|_|20060201|0|
B|32010228309742|赵国花|2|_|刘六1组|_|223222|_|20060202|0|
B|32010228311624|邵春林|2|_|范集大花一组|_|_|_|20060202|0|
B|32010228320457|梁永文|1|_|楚州区泾口镇东宥村八组|_|_|_|20060203|0|
B|32010228360519|叶小友|1|_|条龙4|_|_|_|20060205|0|
B|32010228400408|华凤友|1|_|许王|_|_|_|20060207|0|
B|32010228311624|邵春林|2|_|范花组|_|_|_|20060207|0|
B|32010228249957|管凯|1|5781184|上河大姚黄庄组40号|_|_|_|20060207|0|
B|32010228258234|沈明生|1|5710785|平桥村|_|_|_|20060208|0|
B|32010228272244|何开梦|1|_|范集何朱八组|_|_|_|20060208|0|
B|32010228277256|任海龙|1|_|车桥|_|_|_|20060209|0|
B|32010228400408|华凤友|1|_|许王村八组|_|_|_|20060211|0|
B|32010228286683|苗金成|1|_|凡河村|_|_|_|20060213|0|
B|32010228354421|王晓峰|1|_|白农|_|_|_|20060222|0|
B|32010228365602|倪成筛|2|_|马东9|_|_|_|20060226|0|
example>cat dat |
> sort -t\| -k2n -k10nr | # 按身份证排序, 相同身份证号按登记日期反向排序
> uniq -w17 | # 按每行首17个字符(身份证)作uniq
> sort -t\| -k10n # 最后按登记顺序再排序 (原始数据的排序方式)
B|32010228240996|杨采梅|2|_|苏咀刘庄一组|_|_|_|20060201|0|
B|32010228309742|赵国花|2|_|刘六1组|_|223222|_|20060202|0|
B|32010228320457|梁永文|1|_|楚州区泾口镇东宥村八组|_|_|_|20060203|0|
B|32010228360519|叶小友|1|_|条龙4|_|_|_|20060205|0|
B|32010228249957|管凯|1|5781184|上河大姚黄庄组40号|_|_|_|20060207|0|
B|32010228311624|邵春林|2|_|范花组|_|_|_|20060207|0|
B|32010228258234|沈明生|1|5710785|平桥村|_|_|_|20060208|0|
B|32010228272244|何开梦|1|_|范集何朱八组|_|_|_|20060208|0|
B|32010228277256|任海龙|1|_|车桥|_|_|_|20060209|0|
B|32010228400408|华凤友|1|_|许王村八组|_|_|_|20060211|0|
B|32010228286683|苗金成|1|_|凡河村|_|_|_|20060213|0|
B|32010228354421|王晓峰|1|_|白农|_|_|_|20060222|0|
B|32010228365602|倪成筛|2|_|马东9|_|_|_|20060226|0|
example> |
|