【免费下载链接】Prompt-Hacking-ResourcesA list of curated resources for people interested in AI Red Teaming, Jailbreaking, and Prompt Injection项目地址https://gitcode.com/gh_mirrors/pr/Prompt-Hacking-Resources点击查看免费下载Prompt Hacking提示词攻防是 AI 与网络安全的交叉领域通过对抗性提示词Prompt Injection和越狱Jailbreak技术探索大语言模型行为边界。Prompt-Hacking-Resources 正是为这个新兴领域打造的终极资源清单——它系统收录了 AI 红队AI Red Teaming、越狱攻击、提示词注入、AI/ML 安全与防御等方向的博文、课程、社区、赛事与视频是新手从零入门 Prompt Hacking 的最高效路径。 什么是 Prompt Hacking为什么你必须了解它Prompt Hacking 研究的是如何用提示词作为攻击面测试并暴露 LLM 的安全漏洞。它和几个常见术语的关系如下术语含义一句话理解AI Red TeamingAI红队有组织地对 AI 系统进行攻击性测试扮演攻击者找漏洞Prompt Injection提示词注入在输入中植入指令劫持模型行为让模型听别人的话Jailbreak越狱绕过模型安全护栏使其输出被限制的内容破解模型的自我约束Prompt Hacking以上技术的总称提示词层面的攻防 核心认知Prompt Hacking 不只是破解 AI 的恶作剧它是企业上线 LLM 应用前必须做的安全评估手段。学会攻击才能做好防御。 项目结构速览6大分类资源一网打尽Prompt-Hacking-Resources 将整个 Prompt Hacking 学习地图划分为 6 大板块每个板块对应一个独立文件结构清晰、按需取用资源分类文件位置内容亮点 技术博客BLOGS.md15 权威 AI 安全博客从实战实验到企业级合规 社区COMMUNITIES.mdDiscord 与 Reddit 双平台红队实战圈子全覆盖 课程COURSES.md免费 付费课程从 Prompt 工程到高级攻防 赛事活动EVENTS.md越狱竞赛、红队工作坊、行业峰会 越狱专题JAILBREAKS.md越狱提示词集合、追踪看板、学术论文 视频YOUTUBE.md红队方法论 越狱演示可视化学习 项目总览入口README.md其中包含完整的目录导航与分类说明贡献规范见 CONTRIBUTING.md。 新手学习路线3步建立 Prompt Hacking 知识体系第一步从免费课程打基础建议先完成 Prompt 工程入门再进入攻防专题学习路径参考 COURSES.md入门层Introduction to Prompt Hacking——专注提示词注入基础是零基础的最佳起点进阶层Advanced Prompt Hacking——深入对抗性提示词、攻击类型与防御策略工具实战Spikee 教程系列——使用开源工具 spikee 对 LLM 应用做越狱与注入韧性测试边做边学。第二步跟进一线红队博客课程解决是什么博客解决怎么做。BLOGS.md 收录的博主值得关注LearnPrompting Prompt Hacking提示词注入与模型利用的逐步教学EmbraceTheRed / Joseph Thacker一线 AI 红队的第一手实验记录Lasso Security提示词注入与对抗行为的深度研究IBM / Microsoft / AWS 安全博客企业视角的 AI 安全架构与威胁建模帮你理解防御方在想什么。第三步进社区 打比赛以战代练加入 COMMUNITIES.md 中列出的 Discord 社区如 LearnPrompting 的 Prompt Hacking 频道、AI Village Discord直接向活跃红队提问关注 EVENTS.md 中的实战平台HackAPrompt越狱竞赛、RedTeam Arena游戏化 LLM 漏洞挖掘、AISec Workshop顶会学术研讨会。参赛是检验学习成果最快的方式。 越狱Jailbreak资源专查从提示词集到论文JAILBREAKS.md 是最硬核的一份清单覆盖越狱研究的完整链条资源类型代表条目适合谁提示词集合与工具L1B3RT4S 越狱提示词库、Jailbreak Tracker 实时追踪看板动手派方法对比指南《Prompt Injection vs. Jailbreaking: Whats the Difference?》容易混淆概念的新手自动化攻击研究GPTFUZZER自动生成越狱提示词想研究自动化红队的进阶者前沿论文DiffusionAttacker、SoP、对抗性提示词翻译攻击科研方向读者⚖️重要提醒越狱技术仅限用于授权范围内的安全测试与学术研究。请务必遵守目标系统的使用条款只攻击你拥有授权的系统做到负责任的安全研究。 视频学习看不懂的论文看演示README.md 的 YouTube 板块详见 YOUTUBE.md按两大主题组织AI Red Teaming从你需要知道的红队基础到2024 之后的红队趋势还有 LLM Security Chronicles 系列播放列表系统覆盖 LLM 应用安全Jailbreaking包括 30 秒快速注入演示、越狱背后的攻击者心态分析、以及如何防御 AI 越狱。 视频适合碎片时间学习建议配合 JAILBREAKS.md 中的文字指南交叉验证。✅ 如何高效使用这份资源清单按需检索用浏览器全文搜索功能定位关键词如 jailbreak、red teaming比顺序浏览更快标注优先级先课程、后博客、再论文按上文 3 步路线推进保持更新AI 安全领域迭代极快建议定期回到 README.md 检查各分类是否有新增资源参与共建如果你有优质的博客、课程或工具想推荐给社区可参照 CONTRIBUTING.md 的规范提交贡献为 Prompt Hacking 生态添砖加瓦。 总结你的 Prompt Hacking 入门清单✅ 理解 4 个核心概念Prompt Hacking / AI 红队 / 提示词注入 / 越狱✅ 完成 1 门免费入门课程从 COURSES.md 选择✅ 订阅 3 个红队博客从 BLOGS.md 选择✅ 加入 1 个 Discord 社区见 COMMUNITIES.md✅ 参加 1 场越狱竞赛见 EVENTS.mdPrompt Hacking 的资源虽然不如传统安全领域丰富但 Prompt-Hacking-Resources 已经为这条学习路径铺好了完整地图。现在从免费入门课程开始你的第一段攻防旅程吧赞分享【免费下载链接】Prompt-Hacking-ResourcesA list of curated resources for people interested in AI Red Teaming, Jailbreaking, and Prompt Injection项目地址https://gitcode.com/gh_mirrors/pr/Prompt-Hacking-Resources点击查看免费下载相关推荐pollinations 仓库分支级代码格式化实战用 Biome Skill 保持代码风格与 CI 一致pollinations 仓库分支级代码格式化实战用 Biome Skill 保持代码风格与 CI 一致 导读 pollinations 是一个大型 TypeGLiGuard越狱检测实战指南识别12种Prompt注入与越狱攻击策略GLiGuard越狱检测实战指南识别12种Prompt注入与越狱攻击策略 本指南带你实战 GLiGuard——一个开源的轻量级 LLM 安全护栏GuardrWallbreaker 攻击工具清单60 LLM 红队军械库一次看懂越狱、注入、多模态全覆盖Wallbreaker 攻击工具清单60 LLM 红队军械库一次看懂越狱、注入、多模态全覆盖 Wallbreaker 是一个面向大语言模型LLM红队上一篇Pinvou Agent GAIA 本地评测在自己的机器上运行官方基准测试 Agent 硬实力下一篇freehire 市场覆盖率判定重构把简历 verdict 从“技能清单比例”改成真实职位空缺覆盖创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考