要按文件名对文件信息进行排序，可以使用Linq的OrderBy方法。下面是一个示例代码：

using System;
using System.IO;
using System.Linq;

class Program
{
    static void Main(string[] args)
    {
        string directoryPath = "C:\\YourDirectoryPath";
        DirectoryInfo directoryInfo = new DirectoryInfo(directoryPath);

        // 获取文件信息列表
        FileInfo[] fileInfos = directoryInfo.GetFiles();

        // 按文件名进行排序
        var sortedFileInfos = fileInfos.OrderBy(f => f.Name);

        // 输出排序后的文件名
        foreach (var fileInfo in sortedFileInfos)
        {
            Console.WriteLine(fileInfo.Name);
        }
    }
}

在上述示例代码中，首先获取指定目录下的文件信息列表。然后使用OrderBy方法对文件信息进行排序，排序的依据是文件的名称（Name属性）。最后，通过循环遍历输出排序后的文件名。

请将示例代码中的"C:\\YourDirectoryPath"替换为你要排序的目录的实际路径。