ИЭΛЭS 7ΙΛЭ retweeted
Most Beautiful Icon Library For Developers!
- 27,000+ beautiful icons
- 3,800+ free icons for commercial use
- Available in SVG, React, React Native, npm, CDN and more
→ hugeicons.com
ИЭΛЭS 7ΙΛЭ retweeted
How To Build Your Own 16-Bit System-on-Spreadsheet
hackaday.com/2024/01/30/how-…
ИЭΛЭS 7ΙΛЭ retweeted
Five days remaining to submit nominations for the Top ten web hacking techniques of 2023!
portswigger.net/research/top…
ИЭΛЭS 7ΙΛЭ retweeted
大模型工作原理3D可视化,太酷了!
LLM工作原理秒懂,作者将transformer架构做成了在线3D模型,并且可视化的展示了大模型生成内容的每一步
bbycroft.net/llm
ИЭΛЭS 7ΙΛЭ retweeted
突然发现微软有很多特别棒的初学者课程,而且还有中文版,之前推荐过人工智能初学者,今天推荐的它的 - 《Generative AI for Beginners:面向初学者的生成式人工智能课程》
microsoft.github.io/generati…
这个 Github pages 搭建的文档页面阅读更方便。
同样也是十二章:
* 有导学视频
* 有源代码
* 还有作业
* 以及各种进阶链接
同时大家一定要注意首页底部的一系列课程,都是微软出品的类似的初学者课程,非常值得收藏:
* [ML for Beginners](aka.ms/ml-beginners?WT.mc_id…)
* [Data Science for Beginners](aka.ms/datascience-beginners…)
* [AI for Beginners](aka.ms/ai-beginners?WT.mc_id…)
* [Web Dev for Beginners](aka.ms/webdev-beginners?WT.m…)
* [IoT for Beginners](aka.ms/iot-beginners?WT.mc_i…)
* [XR Development for Beginners](github.com/microsoft/xr-deve…)
ИЭΛЭS 7ΙΛЭ retweeted
把微软雅黑替换掉了,效果立竿见影。虽然还是比不上 Mac,但已经好很多了,目前看下来也没什么副作用。
步骤:
1. 下载新雅黑字体
2. 关机进 PE,备份 C:\Windows\Fonts 中原来的字体(msyh.ttc、msyhl.ttc、msyhbd.ttc)
3. 把新字体拖过去覆盖
4. 开机,替换完成
bbs.pcbeta.com/viewthread-19…
ИЭΛЭS 7ΙΛЭ retweeted
如果你没时间看整个系列,这一集一定要抽时间仔细看看!
看完你就大概知道LLM能做什么不能做什么,能力边界在哪里。遇到需要LLM做的事情,可以有一个框架帮你去做判断。
当然整个系列的教程水准都极高,强力推荐!
面向所有人的生成式 AI 入门课程 8 - 生成式 AI 应用 - 大语言模型的能力与局限
视频描述:
探索生成式AI的奇妙世界,理解大语言模型(LLM)的能力与局限。本视频深入剖析LLM的工作原理,以及它们在处理任务时的优势和短板。我们将通过实用的思维模型,对比应届大学生的能力,来揭示LLM的工作边界。加入我们,一探究竟LLM在现实应用中的真正潜力。
🚀 课程亮点:
1. 深入了解LLM的工作机制和能力边界。
2. 探讨LLM的知识截止问题和其"幻觉"现象。
3. 研究LLM在处理结构化数据和非结构化数据的不同表现。
🔥 你将学到:
- 如何有效利用LLM的能力来完成任务。
- 识别并规避LLM在实际应用中的潜在风险。
- 提升与LLM互动的技巧,优化问题解决方案。
🌐 课程内容:
- LLM的能力与一个应届大学生的能力类比。
- 知识截止和"幻觉":LLM的认知局限与错误信息生成。
- 结构化数据vs非结构化数据:LLM的处理能力对比。
📚 学习建议:
- 当使用LLM时,保持批判性思维,意识到其回答可能的偏差。
- 在处理有实质性后果的任务时,要仔细核实LLM提供的信息。
- 为了优化LLM的使用效果,学会如何提供精准的上下文信息。
🔗 相关链接:
课程地址:coursera.org/learn/generativ…
油管播放列表:youtube.com/playlist?list=PL…
B站播放列表:space.bilibili.com/589397373…
ИЭΛЭS 7ΙΛЭ retweeted
一分钟读论文:《现代 Code Review 的系统文献综述》 | Micropaper unbug.github.io/A-Systematic…
ИЭΛЭS 7ΙΛЭ retweeted
By-design AV bypass with "dev drive" 😅
I really like this feature!
Update your detection rules if you want to spot this...
ИЭΛЭS 7ΙΛЭ retweeted
推荐论文《The Rise and Potential of Large Language Model Based Agents: A Survey》的中文翻译:
《复旦NLP实验室和米哈游全面解读AI Agents:一文读懂5万字论文》
mp.weixin.qq.com/s/5pfeHzUPt…
ИЭΛЭS 7ΙΛЭ retweeted
HeaderLessPE
A memory PE loading technique used by the Icedid Trojan. Based on this technology, we propose a new way of file-less attack using HVNC . This enhancement allows to inject HeaderLessPE into execute graphical hacking tools
github.com/M01N-Team/HeaderL…
#infosec #redteam
ИЭΛЭS 7ΙΛЭ retweeted
🕵️Did you know that @GoogleVRP has a section with public reports?
For example, my XSS to RCE in google cloud is publicly available
bughunters.google.com/report…
you can see all featured and public reports here
bughunters.google.com/report…
ИЭΛЭS 7ΙΛЭ retweeted
这幅图来自 xitter.cf/bytebytego/status/1685…
它很简洁地列出了数据库(引擎)常用的算法/数据结构,我挑选其中的 skiplist 和 lsm 树讲一下,顺带就理解 #nosql 类数据库的主要实现思路了。话说表中的算法可能一般考试面试遇不着,但实际当中还是相当有用的哦。
#skiplist(跳跃表)是一种链表(续
8 Data Structures That Power Your Databases. Which one should we pick?
The answer will vary depending on your use case. Data can be indexed in memory or on disk. Similarly, data formats vary, such as numbers, strings, geographic coordinates, etc. The system might be write-heavy or read-heavy. All of these factors affect your choice of database index format.
The following are some of the most popular data structures used for indexing data:
🔹Skiplist: a common in-memory index type. Used in Redis
🔹Hash index: a very common implementation of the “Map” data structure (or “Collection”)
🔹SSTable: immutable on-disk “Map” implementation
🔹LSM tree: Skiplist + SSTable. High write throughput
🔹B-tree: disk-based solution. Consistent read/write performance
🔹Inverted index: used for document indexing. Used in Lucene
🔹Suffix tree: for string pattern search
🔹R-tree: multi-dimension search, such as finding the nearest neighbor
This is not an exhaustive list of all database index types. Over to you:
1). Which one have you used and for what purpose?
2). There is another one called “reverse index”. Do you know the difference between “reverse index” and “inverted index”?
–
Subscribe to our weekly newsletter to get a Free System Design PDF (158 pages): bit.ly/42Ex9oZ
ИЭΛЭS 7ΙΛЭ retweeted
为什么十多年来Google X几乎一件事都没做成,而特斯拉做出了很多事?
weibo.com/5124470749/NcpNoqm…
ИЭΛЭS 7ΙΛЭ retweeted
Hacktricks
Welcome to the wiki where you will find each hacking trick/technique/whatever I have learnt from CTFs, real life apps, reading researches, and news.
github.com/carlospolop/hackt…
Web:
book.hacktricks.xyz/welcome/…
#infosec #pentesting #redteam
t.me/hackgit/9051
ИЭΛЭS 7ΙΛЭ retweeted
很期待这篇压缩参数论文正式版,用4bit代替16bit参数的情况下,性能几乎无损失,这对小模型是大利好
先是暴力出奇迹,然后方向转变为用高质量训练数据集做出相同效果size更小的模型,或者更低精度实现类似效果,有点像AI 1.0时代演化路径的感觉了
开源的力量真的太强了,这个迭代速度真是目不暇接
低精度小模型意味着训练成本训练时间的门槛都在降低,说不定以后4bit精度会成为迭代最快的方向,毕竟65B的4bit模型可以直接跑在本地RTX4090上,太方便了
算上另外一篇今天很火的LIMA,1000条指令调整65B模型输出达到了很好的水平,跟4月的Bard差距都不大了(假定是PaLM 540B)
“大型语言模型中几乎所有的知识都是在预训练期间学习的,只需要有限的指令调整数据来教授模型产生高质量的输出”,这个结论还是很exciting的
这都相当于是软件/算法/模型深刻理解对AI的加速,照这个速度,65B 4-bit的模型到明年也许就能达到GPT3.5的水平了,相当于内存要求减少了十几倍,也就是推理速度快了十倍
在十年软硬件加起来对AI六个数量级的加速历程里,这才第一年,怕是就能完成软件/算法上一个数量级的加速了
ИЭΛЭS 7ΙΛЭ retweeted
昨晚open ai那篇文章更通俗的解释:
OpenAI 的新研究使用 gpt4 来标记 gpt2 中的所有 307,200 个神经元,并用简单的英语描述每个神经元在模型中所扮演的角色。
这为 AI 的可解释性和对齐开辟了一个新方向,有助于使模型更易于解释并可能更容易对齐。
new research from OpenAI used gpt4 to label all 307,200 neurons in gpt2, labeling each with plain english descriptions of the role each neuron plays in the model.
this opens up a new direction in explainability and alignment in AI, helping make models more explainable and potentially easier to align.
openai.com/research/language…













































