mkdir split_file
split -n l/10 filename.txt split_file/part_
此命令将filename.txt文件分成10个部分,并生成以“part_”开头的新文件。
ls -1 split_file/* | parallel -j 4 'awk "{print "processing file " FILENAME " line " NR}: " {insert your awk processing commands here}" {}'
该命令使用parallel并行处理4个文件,并在处理每个文件的每一行时执行AWK命令。您可以根据需要将AWK处理命令替换为自己的命令。
cat split_file/part_* > output.txt
这将将所有部分组合成一个名为“output.txt”的文件。