-
在 Java 并发编程中,有 3 个最常用的关键字:synchronized、ReentrantLock 和 volatile。虽然 volatile 并不像其他两个关键字一样,能保证线程安全,但 volatile 也是并发编程中最常见的关键字之一。例如,单例模式
-
在C++编程中,内存管理一直是一个至关重要的方面。裸指针(raw pointers)在传统C++编程中广泛使用,但它们往往与内存泄漏、悬挂指针(dangling pointers)和野指针(wild pointers)等问题相关联。为了解决这些问题,C++11引入
-
把大模型的权重统统改成三元表示,速度和效率的提升让人害怕。今天凌晨,由微软、国科大等机构提交的一篇论文在 AI 圈里被人们争相转阅。该研究提出了一种 1-bit 大模型,实现效果让人只想说两个字:震惊。如果该论文的方法可以广泛使用,这可能是生成式 AI 的新时代。
-
图像匹配是计算机视觉的一项基础任务,其目标在于估计两张图像之间的像素对应关系。图像匹配是众多视觉应用如三维重建、视觉定位和神经渲染 (neural rendering) 等的基础和前置步骤,其精确度和效率对于后续处理十分重要。传统算法(SIFT)在面临长基线或极端
-
陈丹琦团队刚刚发布了一种新的LLM上下文窗口扩展方法:它仅用8k大小的token文档进行训练,就能将Llama-2窗口扩展至128k。最重要的是,在这个过程中,只需要原来1/6的内存,模型就获得了10倍吞吐量。除此之外,它还能大大降低训练成本:用该方法对7B大小的
-
这就是由微软和中国中科院大学在最新一项研究中所提出的结论——所有的LLM,都将是1.58 bit的。具体而言,这项研究提出的方法叫做BitNet b1.58,可以说是从大语言模型“根儿”上的参数下手。将传统以16位浮点数(如FP16或BF16)形式的存储,统统变成