Question: 为什么环境变量定义的需要虚拟化的设备和实际设备数量相同时会启动虚拟化?

[lut777]

请问一下这个问题:

代码段如下:
在文件 /src/utils.c 中. 这一段代码对是否需要虚拟化进行了判断:

int getenvcount() {
    char *s = getenv("CUDA_VISIBLE_DEVICES");
    if ((s == NULL) || (strlen(s)==0)){
        return -1;
    }
    LOG_DEBUG("get from env %s",s);
    int i,count=0;
    for (i=0;i<strlen(s);i++){
        if (s[i]==',')
            count++;
    }
    return count+1;
}

int need_cuda_virtualize() {
    int count1 = -1;
    char *s = getenv("CUDA_VISIBLE_DEVICES");
    if ((s == NULL) || (strlen(s)==0)){
        return 0;
    }
    int fromenv = getenvcount();
    CUresult res = CUDA_OVERRIDE_CALL(cuda_library_entry,cuDeviceGetCount,&count1);
    if (res != CUDA_SUCCESS) {
        return 1;
    }
    LOG_WARN("count1=%d",count1);
    if (fromenv ==count1) {
        return 1;
    }
    return 0;
}

我不太理解为什么是实际GPU数量和需要虚拟化的index序号数量相同时, 会启动虚拟化?
我的理解是虚拟化之后的GPU卡数量和原有的应该是不同的. 不然就只是换个顺序了.

而且在启动虚拟化之后, 是否应该先清空 cuda_to_nvml_map 的内容之后再进行复制?
就是这部分的代码.