LLM：2024自我研究指南

如果您准备进入人工智能世界，“掌握LLMS：2024自我研究指南”就是您的步骤 – 步骤计划。随着大语言模型中发展的加速，开发人员，数据科学家和人工智能爱好者必须与工具，技术和高级实践保持同步。本指南可帮助您建立理论基础，在主要研究中进行移动，通过实践项目应用课程，并为在现实世界中的出版做准备。为学习者设计的路线图的设计在各个层面上，其特征是协调的资源，实用框架和2024年最高方向，例如生成检索，即时工程以及负责任的模型的使用。

主餐

有组织的路线图在2024年使用免费和付费内容学习大型语言模型。
通过新手，中级和高级阶段任命了指南，并为专家选择的资源而任命了指南。
该项目使用洛拉，Openlama和Mistral等开源工具的实用机会。
它包括关于道德人工智能出版，评估和实践的指南。

LLM学习路线图：专家的初学者

掌握LLM的最快方法是通过基于教师的结构。本指南将学习分为三个主要阶段。它包括每个基本概念，推荐的资源和项目想法。

初学者级别：基础和概念

此阶段可以确保您在大规模处理LLM之前了解机器学习，自然语言处理（NLP）和变压器的基础知识。

主要主题：

Python编程（Numby，Pandas，Matplotlib）
自动学习算法（受监督，不受监督的约束）
神经网络和深度学习（RLU，SGD，损失工作）
NLP简介（独特的符号，文本分类，含义）

推荐资源：

实用培训：

使用Scikit-Learn或FastText创建文本编译器
使用基于规则的逻辑创建基本聊天机器人

中级：了解变压器和培训

在这里，您将学习与变压器结构合作，并在培训较小的模型中发展实用经验。

主要主题：

变压器结构（注意机制，局部编码）
转移学习和改进（BERT，GPT基本模型）
弄脏面部适配器库
劳拉和数量的基础知识

最佳教育课程和课程：

尝试的项目：

Distilbert在数据数据集上的文本（例如，法律或医疗）
使用BERT进行推理并比较性能标准
有劳拉（Laura）降低培训成本的经验

高级级别：良好的完善，出版和道德规范

在这个级别上，重点是传输到缩放模型，负责任的发布和运营效率的。

关键重点领域：

录制生成（RAG）
发布策略（量子测量，ONNX，TopServe）
道德AI和形式评估（偏见，公平，毒性）
最新的研究包括克劳德，双子座，梅斯特拉和Openllama

专家工具和资源：

高级项目：

建造
使用毒素去除毒素的毒性和偏见评估来自开源LLM的输出
发布用于边缘设备的定量模型（Jetson Nano或RPI）

LLM工具的快速开发生产了新的框架，以简化安全的培训，改进，发布和集成。这对于现实世界中的应用是决定性的。

拥抱面部变压器： LLM及其推理的行业开创性图书馆。
劳拉（低级适应）： 通过冻结大多数参数，它使配方更有效。
兰吉森： 代理商和管道的工作框架。
Mistral＆Openllama： LLM家族高性能。
DeepSpeed＆Flashatten-2： 提高生产率和记忆效率。

LLM职业准备：建立钱包和着陆功能

人工智能角色的袭击不仅仅需要艺术知识。新兵正在寻找清晰的体验和对LLM概念的深刻理解。

LLM开发中的主要角色：

LLM研究工程师
NLP工程师
自动学习工程师
人工智能伦理顾问

显示技能：

形式和评估
快速工程和破布实施
使用容器服务（Docker，Kubernetes）发布
了解负责人工智能的原则

项目组合示例：

llm评级为多语言主张的GitHub回购
基于可乐的教程是培训低资源适配器模型
与现实世界的主张相比
使用GPT-4和Python自动化任务并提高生产力的经验

“不要只是学习如何使用LLM。学习如何做。您将使用自己的模型建立最好的团队。” -Tomas Wolf，Face Hug的联合创始人

“错误浪潮是新的更正代码。尽快学习需求工程。” Andrew Ng，DeepLearning.AI的创始人

“不必总是需要调整。具有良好索赔的较小型号通常可以表现出色。”塞巴斯蒂安·拉什卡（Sebastian Rashka），ML研究员

Source link