泷汐の精神时光屋

前言 《超算竞赛导引》是由赛事官方编写的指导书。本文就书中的一些有用、重点的内容作摘要整理，并根据笔者自身经验加以补充，以助刚入门的同学快速了解、上手超算竞赛。欲见详细内容请自行购买、借阅书籍。 ASC竞赛规则介绍 东南大学校赛规则 由于ASC是团队竞赛，因此我校每年会先举办校内个人选拔赛，题目即为本年ASC初赛赛题。参赛选手最终需要根据题目要求，提交一篇技术方案（Proposal），并进行答辩参与评选。校方从中选取十人组成主队与副队，代表东南大学正式参加ASC竞赛。队员们在校赛阶段的研究基础上做进一步研究，向ASC组委会提交最终的初赛Proposal和其他所需数据。 往年我校报名参加ASC竞赛的人数都很少，最终成功提交Proposal的人更是寥寥无几。因此只要有恒心有耐心坚持到底，基本上都可以进入校队参加决赛。 2014年初赛规则解析 初赛介绍 时间：2014年1月2日~2月27日上午9:00. 形式：竞赛评审委员会给定统一命题，竞赛组织委员会发送给报名参赛队伍，报名参赛队在规定时间内按命题要求提交书面方案和测试优化结果，由竞赛评审委员会统一评定入围决赛队伍。 初赛规则解析 (1)首 ...

PyTorch模型优化思路 前言 近年来AI模型成为ASC竞赛选题的香饽饽，如2022年的三四两题分别是基于pytorch的大型语言模型，和基于tensorflow的分子动力学模型。AI模型的优化可以从许多方面入手，本文参考Lorenze Kuhn的文章Here are 17 ways of making PyTorch training faster – what did I miss?，对其进行翻译和总结，介绍pytorch框架的通用优化思路。 注意：本文所讲方法仅供参考，帮助大家打开思路。你可能会发现这些方法并不会有太大效果，甚至没有效果。如果想有所突破，必须靠自己深度阅读代码，对症下药。 考虑换一种学习率 学习率对模型收敛速度和泛化能力有很大影响。Cyclical Learning Rates 和oneCycle learning rate 是 Leslie N. Smith提出的两种自适应学习率方法。（参见这里和这里）oneCycle learning rate schedule看起来像这样： PyTorch实现了这两种方法:torch.optim.lr_scheduler ...

vimtutor vim指令教学 vimtutor Version 1.7 原文 本节对vimtutor进行翻译和精简。 非常推荐在一个命令行窗口敲入 1vimtutor 并跟着本教程一起开始旅行。 123456789101112131415161718192021222324================================================================================ W e l c o m e t o t h e V I M T u t o r - Version 1.7 ================================================================================ Vim is a very powerful editor that has many commands, too many to explain in a tutor such as this. This tutor is d ...

导言 在超算竞赛中，我们主要以Linux为工作环境。原因有三： 题目指定的程序往往需要从源码编译安装，这在Linux系统中是基本操作，而在Windows系统中很难做到。 我们的程序往往需要大量计算资源和运行时间， 个人电脑一般无法胜任。因此大部分同学会选择自购服务器或者使用学校提供的超算节点。而服务器上的操作系统正常都是Linux。（哪怕可以选择安装Win系统，我们也不会这么做，因为Win系统占用资源远大于Linux的命令行系统）。 Linux系统配置开发环境相对比较简单（只是相对Win系统，并不代表他真的简单） 此外，如果以后接触计算机领域较多的话，使用Linux是不可避免的，迟早都要学，不如借助超算竞赛打打基础。 Linux系统的分类简介 debian：图形化界面，体积小，稳定性最高，安装包丰富，文档相对较少，但是适用于低配置的vps，128M内存就可以流畅运行debian，使用apt-get命令安装软件。 ubuntu：与debian有千丝万缕的关系，使用apt-get命令安装软件。学生接触的主要都是Desktop版，即有图形界面的系统，事实上Ubuntu Server 和 ...