要解决AVCapturePhotoSettings.flashMode在设置设备闪光灯模式时无效的问题，可以尝试使用AVCaptureDevice的torchMode属性来控制设备的闪光灯。

以下是一个示例代码，展示如何使用torchMode属性控制设备的闪光灯模式：

import AVFoundation

// 获取摄像头设备
guard let device = AVCaptureDevice.default(for: AVMediaType.video) else {
    fatalError("无法获取摄像头设备")
}

// 检查设备是否支持闪光灯
if device.hasTorch {
    do {
        // 锁定设备以进行配置
        try device.lockForConfiguration()

        // 设置闪光灯模式为自动
        if device.isTorchModeSupported(.auto) {
            device.torchMode = .auto
        }

        // 解锁设备
        device.unlockForConfiguration()
    } catch {
        print("无法配置设备闪光灯模式：\(error.localizedDescription)")
    }
} else {
    print("设备不支持闪光灯")
}

在上述示例中，我们首先获取了默认的摄像头设备，并检查设备是否支持闪光灯。然后，我们使用lockForConfiguration()方法锁定设备以进行配置，并将闪光灯模式设置为.auto。最后，我们使用unlockForConfiguration()方法解锁设备。

请记住，在使用完设备后，应解锁设备以避免阻止其他应用程序使用设备。