cuda_setup.add_log_entry(“WARNING: Compute capability ＜ 7.5 detected! Only slow 8-bit matmul 解决方案

  大家好，我是爱编程的喵喵。双985硕士毕业，现担任全栈工程师一职，热衷于将数据思维应用到工作与生活中。从事机器学习以及相关的前后端开发工作。曾在阿里云、科大讯飞、CCF等比赛获得多次Top名次。现为CSDN博客专家、人工智能领域优质创作者。

  本文主要介绍了cuda_setup.add_log_entry("WARNING: Compute capability < 7.5 detected! Only slow 8-bit matmul is supported for your GPU解决方案，希望能对学习大语言模型的同学们有所帮助。

1. 问题描述

  今天在使用V100 GPU运行MiniGPT-4(对应链接为https://github.com/Vision-CAIR/MiniGPT-4)，却出现了cuda_setup.add_log_entry("WARNING: Compute capability < 7.5 detected! Only slow 8-bit matmul is supported for your GPU，具体报错信息如下图所示：