标签:Llamafile

Llama提速500%!谷歌美女程序员手搓矩阵乘法内核

Justine Tunney,一位天才程序员和谷歌的工程师,最近通过更新Llamafile的代码,显著提高了Llama的推理速度。她手动编写了84个新的矩阵乘法内核,使得Llamafi...