-
-
-
-
刘看山
链接: https://pan.baidu.com/s/1dah94BJ7Zr2ZKHWjEap0PA?pwd=gcyk 提取码: gcyk 复制这段内容后打开百度网盘手机App,操作更方便哦
-
刘看山
TVM2023 windows 编译教程. 你可以直接下载mlc-llm的conda预编译进行使用,但是由于我需要转其他模型。因此我需要安装tvm,在windows上。这又回到了如何在windows上安装tvm的问题。
需要注意的是,mac和linux可以直接下载官方预编译包。windows目前还没有,你可能需要从源码编译llvm先。
最麻烦就是还得源码编译llvm,真鸡儿蛋疼。
源码编译llvm
llvm代码古老,所以很庞大,2GB,如果你不想clone这么大,可以clone小一点的,用shallow clone:
git clone --depth 1 --config core.autocrlf=false https://github.com/llvm/llvm-project.git cd .\llvm-project\ cmake -S llvm -B build -G 'Visual Studio 16 2019' cmake --build .\build\ --config Release
请注意,如果你遇到zlib的问题,可尝试再编译llvm的时候拿掉zlib:
cmake -S llvm -B build -G 'Visual Studio 16 2019' -DLLVM_ENABLE_ZLIB=OFF
这样你就可以源码编译了,理论上来说不会有什么大问题。
这里我建议使用visual studio编译器进行编译,毕竟这是windows。
接下来找到:
E:\codes\libs\llvm-project\build\Release\bin
这里该你的路径,在这里面有一个llvm-config.exe
的东西。然后再你的tvm config配置中修改:
# Possible values: # - ON: enable llvm with cmake's find search # - OFF: disable llvm, note this will disable CPU codegen # which is needed for most cases # - /path/to/llvm-config: enable specific LLVM when multiple llvm-dev is available. set(USE_LLVM "E:/codes/libs/llvm-project/build/Release/bin/llvm-config.exe")
改成你的绝对路径。为什么要用源码编译llvm呢?因为你下载prebuilt binary其实是没有llvm-config.exe的。
tvm编译
然后切换到tvm编译,刚才我们已经修改了cmake的config,怎么clone tvm,修改confgi你可以参考官方。
mkdir build cd build cmake .. -G 'Visual Studio 16 2019' cmake --build . --config Release
进行tvm的编译。
在这里你可能会遇到一个zlib的错误:
LINK : fatal error LNK1181: 无法打开输入文件“z.lib”
这是因为你没有关闭libtracback,我看了半天,好像就 libtraceback 和 cnpy用到了zlib。
# Whether to use libbacktrace # Libbacktrace provides line and column information on stack traces from errors. # It is only supported on linux and macOS. # Possible values: # - AUTO: auto set according to system information and feasibility # - ON: enable libbacktrace # - OFF: disable libbacktrace set(USE_LIBBACKTRACE OFF)
没有办法,删掉build重新build。
最后一步,安装python,直接
pip install -e .
我们来尝试一下mlc-llm
如果你运行mlc-llm,只是跑一下看看,那么可以直接下载conda的预编译二进制,但是如果你想自己生成,或者你想使用python,那么就得源码编译。
t\mlc-llm\tests\chat.py", line 11, in <module> from tvm import relax
如果你遇到这个错误,那么嘿嘿,恭喜你,tvm再次入土。
你需要编译unity分支。
没有想到吧?切换到unity分支再重新编译把!这个时候,我们再在 mlc-llm中尝试看看relax的相关代码能不能引入:
更多link
-
-
-
刘看山
@MentorEzio 非常多跑不通的,很多都是半开源或者开源之后跑路。或者是依赖都是五百年前的库,改动一个版本都用不起来,这些东西去维护、去增加功能,被说成是 拿来主义,我认为非常有失偏颇。
-
刘看山
这件事情其实很离谱,先是有人在知乎恶意引战性提问,至于是谁我就不说了,某中国科学技术大学的某军,不知道是出于什么原因,突然把人家yolox作者N年前的帖子翻出来,然后“兴趣盎然的”对我们的社区进行兴师问罪。
我就很无语了,我们社区向来不会对外招惹任何人,怎么突然被这种恶人给盯上了呢?我和对方在对话之间,对方显示出的傲慢和无礼让我很反感,但我始终非常礼貌的跟他说明缘由,我不知道这个人现实里是什么样的人,从聊天来看,非常难以交流。
关于我们社群,我们先来看看社区成员是怎么说的:这个人的核心论点是:我们用了github的代码,并且收费了,所以说我们侵权了。
我来拆解一下,这里面存在两个非常蹩脚的站不住脚的前提:
- 谁告诉你我们用了github代码收费了?我们有github的代码没错,平台所有github代码都是免费的,这种上来就先入为主的人,我不得不怀疑其居心何在;
- 其次是收费,麻烦你去喷一下CSDN上卖压缩包的吧?麻烦你去喷一下在github上开源一个基于开源程序改造的程序且不开源的为开源的人吧?麻烦你去喷一下无数白嫖网友clone完代码还得在issue里面吐槽一下代码难用并且还不提交PR的人吧? 况且我们对开源的项目不收费呀。
何来喷?
最后回到这位喷子的中心论点,无非就是我们平台引用了YOLOX的项目,说我们不尊重作者。OK,首先来看看YOLOX的协议:
Apache协议。
再次,如果你还不懂什么是Apache协议,麻烦去查一下。
最后,喷我们不尊重作者的,那我就把作者的原话贴出来:人家说的是这类行为,而有些居心叵测、心术不正的人 就喜欢上升到个人并且还想将这个人彻底摧毁,我试问:你代表是月亮还是星星?正义就是你说的话?你就可以消灭任何人?。
真心希望,我们的社群离这些居心叵测的人远一点,也希望你身边不要有这样的人,相关抹黑、造谣、污蔑的证据皆已保留,如果再次对我们发起攻击,后果不堪设想。包括但不限于恶意侵犯个人隐私、诋毁个人名誉、诋毁商业公司名誉、网络暴力(如果不懂网信办对网络暴力的立法原则可以自行百度)等
-
-
-
-
刘看山
Just copy this file to
sources.list
# source && source code deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ lunar main restricted universe multiverse # deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ lunar main restricted universe multiverse deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ lunar-updates main restricted universe multiverse # deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ lunar-updates main restricted universe multiverse deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ lunar-backports main restricted universe multiverse # deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ lunar-backports main restricted universe multiverse deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ lunar-security main restricted universe multiverse # deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ lunar-security main restricted universe multiverse # Advance distribution source, Not recommended # deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ lunar-proposed main restricted universe multiverse # deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ lunar-proposed main restricted universe multiverse # source && source code deb http://mirrors.aliyun.com/ubuntu lunar main restricted deb http://mirrors.aliyun.com/ubuntu lunar-updates main restricted deb http://mirrors.aliyun.com/ubuntu lunar universe deb http://mirrors.aliyun.com/ubuntu lunar-updates universe deb http://mirrors.aliyun.com/ubuntu lunar multiverse deb http://mirrors.aliyun.com/ubuntu lunar-updates multiverse deb http://mirrors.aliyun.com/ubuntu lunar-backports main restricted universe multiverse deb http://mirrors.aliyun.com/ubuntu lunar-security main restricted deb http://cn.archive.ubuntu.com/ubuntu lunar-security universe deb http://cn.archive.ubuntu.com/ubuntu lunar-security multiverse
-
刘看山
由于Daybreak 采用了最新的msix格式分发,这是微软最新的安装格式,给应用程序提供了一个非常现代化和友好的界面。
但是由于我们没有上线了微软商店,只能下载分发,这就要求用户需要安装我们的本地签名,否则会出现签名未信任。
教程如下:
- 如果是第二次安装:
证书只需要安装一次,不会再次提醒:
如果是第二次安装,可以直接选则重新安装
- 如果是首次安装
你会遇到这个问题,不要慌,这是因为愚蠢的微软要求每一个应用都买他们的巨额证书费用,一年好几千美元,要不然就是上架到微软商店,众所周知这也是一笔费用。可以说现在的平台方想尽了办法压榨开发者,但是没关系,我们直接安装证书就行了,非常不建议给美帝缴税。
我们提供了证书下载方式,下载这个文件:
链接: https://pan.baidu.com/s/18XmLUA6FH6F6xPDYOeOtIg?pwd=9h56 提取码: 9h56 复制这段内容后打开百度网盘手机App,操作更方便哦
你也可以从 https://db.manaai.cn/daybreak.crt 下载
双击它,简单几步安装证书即可:
【安装证书】,然后选择 本地计算机 下一页。
将证书存储到 受信任的根证书颁发机构
选择是,然后就可以导入成功证书了。
接着你再次双击daybreak的MSIX安装文件:
就可以安装了。
然后在你的系统页面就可以看到最近添加的app了。
-
-
刘看山
新用户必看
为什么需要git?神力平台主要为用户提供开箱即用的算法,以及对应的模型,所有算法都是我们内部开发组经过Debug,解决各种问题,每一个模型都有一个
demo_xx.py
的开箱即用脚本,并且由专人进行维护。和我们提供的工具链不同的是,会员项目大多是训练或者python的推理代码,而工具链全部是C++,C++通常变化不大,但是Python变化很大,这就造成了每一个项目都可能存在需要不断维护的问题,因为python的依赖、相关配置会不断的改变。(当然我们的工具链也是git同步,因为会有一些bug修复)
为了不让用户总是跑一些古老的代码,我们不会将项目限定在某个非常严格的古老依赖版本(甚至是版本组合),于是不得不采用 git 来对代码进行托管,这样用户报告的问题,我们随时可以修复,并且同步给所有会员。
如果你是新手,且对git的使用方法不熟悉,可以学习一下git使用方法,简单来说,你首先需要在windows安装git,然后:
git clone https://xxxx.com/xxx/xxx.git
就可以了,如果要获取我们的更新,
git pull origin master
,就可以pull最新的更改了。我们的代码托管平台
神力的项目内,如果你是会员并且处于激活状态,每个项目都能看到一个或者多个git链接。
在早之前,我们代码托管在Gitlab,但是用户吐槽多余难用,不习惯,于是我们后面将代码全部托管到了一个开源、非盈利、不存在zzzq的git平台: codeberg。
还没有codeberg账号的同学,可以安装这三个步骤快速注册一个,我们所有代码在codeberg进行同步和托管。
-
进入官网:https://codeberg.org/ 点击注册
-
填写用户名邮箱,激活码,就可注册
-
邮箱内点击激活链接,即可激活,后续可以正常使用。
最后,将你的 userName 给到客服, 请注意,是你的userName,不是昵称。
例如神力官方账号为:https://codeberg.org/manaai
网址后面就是你的userName。
客服添加权限后,我们的所有最新代码,你将都可以自由访问。
请注意:所有神力代码不得擅自开源,也不得随意fork,只能在限定小组内PR,或者clone,否则可能随时会被取消权限,再也无法获取更新。
-
-