Skip to content

内存溢出，在使用本代码在学校服务器上运行时，出现内存溢出的清况，大家有遇到这种情况嘛，该如何解决呢？ #30

Open
Open
内存溢出，在使用本代码在学校服务器上运行时，出现内存溢出的清况，大家有遇到这种情况嘛，该如何解决呢？#30

Description

@zengyangzang
zengyangzang
opened on May 24, 2023
No description provided.

Activity

  1. Vegemo-bear commented on May 24, 2023

    @Vegemo-bear
    Vegemo-bear
    on May 24, 2023

    有的，这个需要batchsize设置小一些，如果最开始跑占用的显存是5000MB左右，最后稳定的时候是8200多MB。

  2. SuperHHzy commented on May 27, 2023

    @SuperHHzy
    SuperHHzy
    on May 27, 2023

    降低batchsize，用apex半精度训练。

  3. kingqiuol commented on May 30, 2023

    @kingqiuol
    kingqiuol
    on May 30, 2023

    多卡的话，就DDP，半精度在数据量足够多用(10w以上吧)，不然会不收敛

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions