在Angular 5 Material中，可以使用Angular的响应式表单来实现将mat-radio-group设置为必填。以下是一个包含代码示例的解决方法：

1. 首先，确保你已经在你的项目中安装了Angular 5 Material。如果没有，请运行以下命令来安装它：

npm install @angular/material@5.2.5

2. 在你的组件中，导入所需的Angular模块：

import { Component, OnInit } from '@angular/core';
import { FormBuilder, FormGroup, Validators } from '@angular/forms';

3. 在组件类中定义一个响应式表单的FormGroup对象，并在ngOnInit()方法中初始化它：

@Component({
  selector: 'app-your-component',
  templateUrl: './your-component.component.html',
  styleUrls: ['./your-component.component.css']
})
export class YourComponent implements OnInit {
  myForm: FormGroup;

  constructor(private formBuilder: FormBuilder) { }

  ngOnInit() {
    this.myForm = this.formBuilder.group({
      radioGroup: ['', Validators.required]
    });
  }
}

4. 在你的HTML模板中，使用mat-radio-group和mat-radio-button来创建一个单选按钮组：

  
    Option 1
    Option 2
    Option 3
  

5. 使用mat-error指令在必要时显示错误消息。在你的HTML模板中，将以下代码添加到mat-radio-group之后：

  Please select an option

这样，当用户没有选择任何选项并尝试提交表单时，将会显示一个错误消息。

请注意，以上示例假设你已经在你的项目中正确导入了所需的Angular Material模块。如果没有，请确保你在你的app.module.ts文件中导入了MatRadioModule和相关的Material模块。