宝玉
Prompt Engineer, dedicated to learning and disseminating knowledge about AI, software engineering, and engineering management.
عرض في 𝕏سلاسل التغريدات
这是斯坦福2023年公开课CS25第一课：《Introduction to Transformers》（中英文字幕） 讲师: Andrej Karpathy 自2017年首次亮相以来，Transformer已经彻底改变了自然语言处理（NLP）的领域。现...
如何借助大语言模型对一本13万tokens的长篇小说生成摘要？ 今天把 @lxfater 推荐的这个视频仔细看了一下，作者关于Langchain的系列视频都做的非常棒。 视频介绍了几种常用的对文本生成摘要的...
这篇文章大致讲清楚了Embedding和如何借助Embedding做PDF问答，原文翻译如下（略有删改）： 向量数据库和Embedding是现在 AI 领域的热门话题。 Pinecone 是一家向量数据库公司，估值约为 10...
刚测试了一下让GPT4提问的技巧，很实用！ 我的prompt： “请帮我写一篇有关AI对软件工程影响的文章，你在写之前可以先思考怎么写，有需要我补充信息的地方，把问题列出来，我会回答你的问题。”...
8/n 也就是先在本地文档库中Search，拿到本地的数据结果，再去Ask，把搜索结果和问题一起交给GPT，这样GPT可以根据你提供的内容以及它模型中的数据，一起将结果返还给你。
1/n 现在基于自然语言和文档进行对话的背后都是使用的基于嵌入的向量搜索。OpenAI在这方面做的很好，它的Cookbook（https://t.co/0QNUUBkzTg ）上有很多案例，最近他们对文档做了一些更新。
1/n 我解释一下为什么我觉得像WebLLM这样在浏览器中直接运行大语言模型（LLM）的项目是极具意义的。 我们拿ChatGPT、ChatGLM（清华的LLM）和WebLLM三者做一个简单对比： https://t.co/JVieD8F9...
现在LLaMA的衍生模型太多了，这个LlamaChat的Mac客户端就是让你可以在本机直接和你喜欢的Llama模型交互 我专门去查了一下它怎么实现和LLaMA模型交互的，原来作者把llama.cpp fork了一份，从而...
1/n 这是一个可以借助ChatGPT帮你修复代码错误的程序，prompt写的很巧妙，感谢 @zhangjintao9020 推荐 https://t.co/je1sgwyLak 原理：🧵👇 https://t.co/EF4bMGE83V
微软开源的DeepSpeed项目，帮助你训练你自己的ChatGPT模型 https://t.co/nVnYmeDLNk 有关细节，推荐阅读：https://t.co/C0Ur0YY64P
1/ 它的原理大概是这样的： 1. 将中文prompt翻译成英文prompt，用的是赫尔辛基大学开源的 OPUS MT 模型 🔗 https://t.co/qQzgqjDydn https://t.co/S98XDQnSqb
1/n 前些天我听Sarah & 王建硕的那期《大白话聊 ChatGPT》播客 https://t.co/lzyNl3YE5g 的时候，里面王建硕老师神秘兮兮的说他们开发了一个机器人，这个机器人能补全一些ChatGPT缺失的能力，比...