网站笔记：huggingface——can you run it？

Can You Run It? LLM version - a Hugging Face Space by Vokturz

1 配置设置部分

• Model Name就是需要测量的模型名称

• GPU Vendor ——GPU供应商

• Filter by RAM (按RAM过滤)

  • 筛选出所有内存容量在选择范围之间的GPU

• GPU

  • 下拉菜单选择具体的GPU型号

• LoRa % trainable parameters (LoRa可训练参数百分比)

  • 滑动条设置了2%的值

  • 指的是在LoRa微调中，仅有2%的参数是可训练的，其余的参数保持冻结状态

• GPU详细信息表

  • 展示了所选GPU的具体信息，包括：
    • Product Name (产品名称): Tesla V100 SXM2 32