在R语言中，可以使用is.*函数来判断一个对象的数据类型。因此，在不知道实际内部数据类型的情况下返回给定SEXP的子集，可以使用以下代码示例：

subset_SEXP <- function(x, condition) {
  if (is.vector(x) && is.logical(x)) {
    return(x[condition])
  } else if (is.matrix(x) && is.logical(x)) {
    return(x[condition, ])
  } else if (is.data.frame(x) && is.logical(x)) {
    return(x[condition, , drop = FALSE])
  } else {
    stop("Unsupported data type")
  }
}

这个函数接受两个参数：x表示要操作的SEXP对象，condition表示子集的条件。根据x的数据类型，函数将返回符合条件的子集。

例如，我们有一个向量x <- c(1, 2, 3, 4, 5)，我们想要返回大于2的子集。我们可以使用以下代码调用函数：

subset_SEXP(x, x > 2)

输出将是：3, 4, 5。

另外，如果数据类型不是向量、矩阵或数据框架，函数将抛出一个错误。这可以防止使用不支持的数据类型调用函数。