「LLM&SEC Landscape」技术社区
人类一再声称,有些事情是计算机永远做不到的,无论是下棋、开车还是写诗。但事实证明,原来“永远”也不过就是几年。然而如果人类失去对信息制造的垄断权,将意味着人类主导自身命运历史的终结...
从AI的安全风险与自我觉醒,探索未来治理之路
前 言AI技术的快速发展,使得其在赋能网络安全的同时,也为攻击者提供了极大便利,随之而来的安全挑战同样日益凸显。AI的安全与安全的AI已成为业界关切焦点,我们将围绕此话题展开深度解...
LLM 提高 SAST 的代审效率的思考方向
先来聊聊借助工具人工进行代码审计的步骤以及遇到的问题吧借助代码静态分析工具 Joern 后的人工代审步骤(以 PHP 为例):找到 Source,即用户可控的部分。框架类项目会有固...
网络洞察 2025:人工智能
2022 年 11 月,OpenAI 在互联网上推出了 ChatGPT,人工智能由此进入公众视野。ChatGPT 是一种特殊的机器学习 (ML) 形式,被称为生成式预训练转换器 (...
【InForSec 2025年会顶会论文回顾】林云: 基于参照的钓鱼欺诈检测技术的自动化知识赋能
来自上海交通大学计算机系副教授林云老师的报告聚焦于网络钓鱼攻击检测的前沿研究。团队提出一种新型检测框架——PhishLLM,通过大型语言模型实现对钓鱼网页的高效检测。PhishLL...
一人公司是一种新商业潮流吗?
关于书本身今天聊一聊最近看的一本挺火的书,company-of-one-why-staying-small-is-the-next-big-thing-for-business,书...
评测!Google Gemini AI 安全评估技术解析
在人工智能技术迅猛发展的浪潮中,大语言模型的安全性成为决定其能否广泛应用的关键因素。近日,LLM-Hunter项目组成员TrustAI与云起无垠团队对 Google Gemini...
大模型推理加速的研究与分析
背景在2024年全球机器学习技术大会上,大模型的技术进步以及推理阶段的高效性成为了广泛关注的焦点。近年来,随着大规模语言模型(LLM)的参数量和功能复杂性的快速增长,其在实际应用中...
大语言模型的安全与隐私调查
大语言模型(LLM)具有语言理解能力、类人文本生成能力、上下文感知能力和强大的问题解决能力,这使其在各个领域(如搜索引擎、客户支持和翻译)都具有重要价值。本文将探讨LLM如何对安全...