在 ChatGPT的构建里,算力、数据都是相对可以快速建立增强的,唯独算法需要不断的尝试测试,难以在短期有效突破。在AI应用实际落地的过程中,需要算力、算法、数据、场景、应用的共同配合,ChatGPT的出现本质是算法环节的突破。
而ChatGPT的核心算法是Transformer算法,因此,我们算法努力的方向就是研发Transformer算法。
Transformer 算法的主要优势是它在处理长序列数据时表现出色。相比于传统的循环神经网络(RNN)或卷积神经网络(CNN),Transformer 在处理长文本时具有更好的并行性和更短的训练时间,因为它不需要对输入序列进行逐步处理。此外,Transformer 还能够通过自注意力机制学习序列之间的依赖关系,从而使得其在语言建模和自然语言处理任务中表现出色。
A股中有Transformer算法技术储备的,实锤有Transformer算法的有三家公司。中科金财,开普云,世纪天鸿。而只有中科金财是北京的。