首页
首页
沸点
课程
直播
活动
竞赛
商城
APP
插件
搜索历史
清空
创作者中心
写文章
发沸点
写笔记
写代码
草稿箱
创作灵感
查看更多
会员
登录
注册
打工的小黑猫
掘友等级
后端打码
获得徽章 7
动态
文章
专栏
沸点
收藏集
关注
作品
赞
142
文章 137
沸点 5
赞
142
返回
|
搜索文章
打工的小黑猫
赞了这篇文章
吃果冻不吐果冻皮
🏆掘金签约作者|人工智能方向
·
5月前
关注
大模型推理框架概述
从 ChatGPT 面世以来,引领了大模型时代的变革,除了大模型遍地开花以外,承载大模型进行推理的框架也是层出不穷,大有百家争鸣的态势。本文主要针对业界知名度较高的一些大模...
2
评论
分享
打工的小黑猫
赞了这篇文章
moka11moka
中国社会主义泥瓦匠
·
1年前
关注
标准的Attention到稀疏Attention
简介 依旧借鉴苏神的博客【为节约而生:从标准Attention到稀疏Attention】进行复述和整合,基本都是苏神内容,但打字是我打的。...
2
评论
分享
打工的小黑猫
赞了这篇文章
极智视界
公众号:极智视界 | 研究AI的宝藏博主
·
5月前
关注
极智AI | 大模型优化之KV Cache
大家好,我是极智视界,本文来介绍一下 大模型优化之KV Cache。希望我的分享能对你的学习有一点帮助。...
2
评论
分享
打工的小黑猫
赞了这篇文章
OceanPresent
@bytedance
·
1月前
关注
手把手教你从零搭建Agent框架
ReAct 框架允许 LLMs 与外部工具交互来获取额外信息,从而给出更可靠和实际的回应。 本项目从零开始实现了ReAct Agent的流程:任务规划、工具使用、简单的内存...
3
评论
分享
打工的小黑猫
关注了
OceanPresent
后端打码
打工的小黑猫
赞了这篇文章
旅梦开发团
前端工程师 @旅梦开发团
·
2月前
关注
LangChain 开发智能Agent
前言 Prompt Enginnering 是打开LLM宝库的一把金钥匙,如果prompt得法,并能将其技巧与某项工作深度结合,那必将大大增效。今天我们来聊聊如何优化P...
40
评论
分享
打工的小黑猫
关注了
旅梦开发团
后端打码
打工的小黑猫
赞了这篇文章
随想笔记
软件开发工程师
·
11月前
关注
langchain agent源码理解
agent agent作为langchain框架中驱动决策制定的实体。它可以访问一组工具,并可以根据用户的输入决定调用哪个工具。正确地使用agent,可以让它变得非常强大。...
7
1
分享
打工的小黑猫
赞了这篇文章
SkyHuang
Python&Java 双修 @壹沓科技
·
3月前
关注
Multi-Agent 研究一 : 概念&设计实现方向分享
Multi-Agent 科普分享, 对主流的Multi-Agent 框架和实现进行分享,帮助大家了解 Multi-Agent 是什么...
12
2
分享
打工的小黑猫
赞了这篇文章
Xinyu
@字节跳动
·
8月前
关注
PagedAttention(vLLM):更快地推理你的GPT
生成式大模型改变了我们在各个行业中应用人工智能的方式。然而,由于模型参数量巨大,为这些模型提供实际服务带来了挑战,即使在昂贵的硬件上,速度可能非常慢,这令人感到沮丧。...
3
1
分享
打工的小黑猫
赞了这篇文章
猛猿
🏆掘金签约作者|人工智能方向
·
9月前
关注
图解Transformer系列二:Self-Attention(自注意力机制)
作为最近热门的生成式大模型的基石,Transformer自2017年诞生以来,就成为nlp研究者必须掌握的基本模型。本系列将通过图解方式,全方面展示Transformer的...
4
7
分享
打工的小黑猫
赞了这篇文章
阿里云云原生
阿里云云原生公众号 @阿里巴巴集团
·
2月前
关注
大语言模型推理提速:TensorRT-LLM 高性能推理实践
大型语言模型(Large language models,LLM)是基于大量数据进行预训练的超大型深度学习模型。底层转换器是一组神经网络,这些神经网络由具有 self-at...
1
评论
分享
打工的小黑猫
赞了这篇文章
阿里云云原生
阿里云云原生公众号 @阿里巴巴集团
·
9月前
关注
【AI 充电】揭秘大语言模型实践:分布式推理的工程化落地才是关键!
本文将以 Bloom7B1 模型为样例,分享在阿里云容器服务 ACK 上,进行大语言模型分布式推理的具体实践。...
3
评论
分享
打工的小黑猫
赞了这篇文章
宝玉的工程技术分享
Prompt Engineer
·
2月前
关注
大语言模型抽象简明指南 [译]
本文作者绘制了一幅涵盖大语言模型(LLMs)及其交互方式抽象框架的图谱,并提出了两种思路体系,帮助理解和分类大语言模型抽象的多种方法与理念。 引言 大语言模型(LLMs)及...
12
评论
分享
打工的小黑猫
关注了
宝玉的工程技术分享
后端打码
打工的小黑猫
赞了这篇文章
汀丶人工智能
算法工程师 @互联网公司
·
8月前
关注
大语言模型的预训练[1]:基本概念原理、神经网络的语言模型、Transformer模型原理详解、Bert模型原理介绍
大语言模型的预训练[1]:基本概念原理、神经网络的语言模型、Transformer模型原理详解、Bert模型原理介绍 1.大语言模型的预训练 1.LLM预训练的基本概念 预...
3
评论
分享
打工的小黑猫
关注了
汀丶人工智能
后端打码
打工的小黑猫
赞了这篇文章
我是一名技术猿
软件开发工程师 @保密
·
9月前
关注
聊聊transformers库——进阶-模型微调和保存
对模型进行微调与保存 微调(Fine-tuning)是一种迁移学习技术,通过在预训练模型的基础上进行少量训练,使模型适应新任务或新数据集。 在本节中,我们将介绍如何进行微调...
4
评论
分享
打工的小黑猫
赞了这篇文章
MobotStone
高级系统架构师 @保密
·
9月前
关注
10 种分布式系统必备模式
在当今的技术领域中,分布式系统已成为许多大型应用程序和平台的核心。构建高性能、可伸缩和可靠的分布式系统是一个复杂的挑战,需要合理的架构设计和模式选择。本文将介绍10个必备的...
9
评论
分享
打工的小黑猫
赞了这篇文章
苏三说技术
公众号 @苏三说技术
·
1年前
关注
瞧瞧别人家的API接口,那叫一个优雅
前言 在实际工作中,我们需要经常跟第三方平台打交道,可能会对接第三方平台API接口,或者提供API接口给第三方平台调用。 那么问题来了,如果设计一个优雅的API接口,能够满...
903
132
分享
下一页
个人成就
文章被点赞
8
文章被阅读
2,030
掘力值
86
关注了
62
关注者
0
收藏集
23
关注标签
17
加入于
2016-11-16