自定义博客皮肤VIP专享

*博客头图：

点击选择上传的图片

格式为PNG、JPG，宽度*高度大于1920*100像素，不超过2MB，主视觉建议放在右侧，请参照线上博客头图

请上传大于1920*100像素的图片！

博客底图：

点击选择上传的图片

图片格式为PNG、JPG，不超过1MB，可上下左右平铺至整个背景

栏目图：

点击选择上传的图片

图片格式为PNG、JPG，图片宽度*高度为300*38像素，不超过0.5MB

主标题颜色：

RGB颜色，例如：#AFAFAF

Hover：

RGB颜色，例如：#AFAFAF

副标题颜色：

RGB颜色，例如：#AFAFAF

预览取消提交

自定义博客皮肤

-+

上一步保存

深度安全实验室

WEB安全、移动安全、IoT安全、OS安全

原创安全工具-spd_dump_interactive

spd_dump_interactive

2025-07-18 08:30:29 328

原创移动安全工具-spd_dump

spd_dump

2025-07-17 17:22:21 138

原创 Python-FAQ-迭代器、生成器、生成器表达式

Python-FAQ-迭代器、生成器、生成器表达式

2025-07-13 08:13:37 234

原创 Python-难点-uinttest

Python-难点-uinttest

2025-07-12 18:38:43 182

原创 Python-难点-复选框

Python-难点-复选框

2025-07-12 18:02:39 197

原创 Python-测试框架-HTMLTestRunner

Python-测试框架-HTMLTestRunner

2025-07-11 08:20:33 549

原创 Python-FAQ-单例模式

Python-FAQ-单例模式

2025-07-09 23:50:54 338

原创 Python-文件操作

Python-文件操作

2025-07-09 23:24:12 679

原创 Python-GUI-wxPython-案例：增删改查

Python-GUI-wxPython-案例：增删改查

2025-07-08 22:31:54 165

原创 Python-FAQ-init、super、call、self

Python-FAQ-__init__、super、__call__、self

2025-07-08 15:08:15 266

原创 Python-难点-获取项目根目录

Python-案例-获取项目根目录

2025-07-07 17:56:44 1019

原创 Python-难点-跨脚本使用wx.TextCtrl

Python-难点-跨脚本使用wx.TextCtrl

2025-07-07 17:17:29 712

原创 Python-FAQ-name、main

Python-FAQ-__name__、__main__

2025-07-05 14:51:56 805

原创 Python-FAQ-搜索路径、作用域、命名空间

Python-FAQ-搜索路径、作用域、命名空间

2025-07-05 14:27:52 203

原创 Python-多线程-threading

Python-多线程-threading

2025-07-05 11:40:27 213

原创 Python-正则-re

Python-正则-re

2025-07-05 11:38:33 216

原创 Python-执行系统命令-subprocess

Python-执行系统命令-subprocess

2025-07-05 11:37:08 234

原创 Python-标准库-os

Python-标准库-os

2025-07-05 11:32:04 369

原创 Python-标准库-sys

Python-标准库-sys

2025-07-05 11:13:03 396

原创 Python-难点-项目目录结构

Python-难点-项目目录结构

2025-07-05 09:15:51 258

原创 Python-GUI-wxPython-事件

Python-GUI-wxPython-事件

2025-07-04 22:06:47 98

原创 Python-GUI-wxPython-控件

Python-GUI-wxPython-控件

2025-07-04 22:04:09 360

原创 Python-GUI-wxPython-布局

Python-GUI-wxPython-布局

2025-07-04 22:01:38 508

原创 Python-GUI-wxPython-容器

Python-GUI-wxPython-容器

2025-07-04 21:59:18 222

原创 Python-GUI-wxPython-frame/panel/sizer

Python-GUI-wxPython-frame/panel/sizer

2025-07-03 14:03:54 334

原创 Python-FAQ-模块、包、库

Python-FAQ-模块、包、库

2025-07-03 08:51:25 452

原创 Python-FAQ-import

Python-FAQ-import

2025-07-03 08:42:12 151

原创 Python-日志管理-logging

Python-日志管理-logging

2025-07-02 09:51:44 129 1

原创 Python-日志管理-概览

Python-日志管理-概览

2025-07-02 09:49:53 859

原创 Python-配置管理-configparser

Python-配置管理-configparser

2025-07-02 09:45:47 113

原创 Python-配置管理-概览

Python-配置管理-概览

2025-07-02 09:44:11 545

原创 WEB开发-UI控件

WEB开发-UI控件

2025-07-02 09:37:32 1297

原创 Python-测试框架-unittest

Python-测试框架-unittest

2025-07-01 08:50:49 211

原创 python-测试框架-概览

python-测试框架-概览

2025-06-30 09:19:03 420

原创 Linux命令-File-wc

Linux命令-File-wc

2025-06-26 17:08:52 144

原创 Linux命令-Searching-locate

Linux命令-Searching-locate

2025-06-26 17:03:36 153

原创 Linux命令：uniq

Linux命令：uniq

2025-06-26 16:51:36 210

原创 Linux命令：sort

Linux命令：sort

2025-06-26 16:49:05 102

原创 Linux命令-File-cat（重点）

Linux命令-File-cat

2025-06-26 16:37:50 86

原创 Linux命令-File-cut（重点）

Linux命令-File-cut

2025-06-26 16:24:12 132

SQL循序渐进教程-强烈推荐

SQL循序渐进教程自己用的，觉得不错，推荐！

2008-09-18

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

深度安全实验室

博客等级

码龄18年

922
原创

1947
点赞

1525
收藏

1357
粉丝

关注

私信

热门文章

分类专栏

最新评论

Python-日志管理-logging
北风之神c: 你这个博客总结的很全面,日志使用写得赞，博主用心了。此国产日志 https://nb-log-doc.readthedocs.io/zh-cn/latest/articles/c1.html 使用原生 loggng封装，兼容性和替换性100%,只需要一行代码大幅简化logging的使用。 1、日志能根据级别能够自动变彩色。 2、print自动变彩色。 3、日志和print在pycahrm控制台的输出都自动可以点击跳转到文件和行号。 4、多进程日志切割安全，文件日志写入性能高。 5、入参简单，能一键自动记录到多种地方。 6、 nb_log 兼容包含loguru色彩模式,loguru只是nb_log的子集之一. 相比 loguru 有10胜。 pip install nb_log 。
AI安全-论文
深度安全实验室: 《ToxicDetector: An Efficient and Automated Framework for Toxic Prompt Detection in Large Language Models》由南洋理工等提出，主要内容如下：研究背景与目的随着大语言模型的广泛应用，恶意用户可通过有毒提示突破安全机制生成有害内容，因此需有效检测方法确保应用安全。现有检测技术面临有毒提示多样性、可扩展性和计算效率等挑战，本文旨在提出更有效的 ToxicDetector 方法解决这些问题。 ToxicDetector 工作流程 - 收集样本：收集良性和有毒提示样本，良性提示来自 ShareGPT，有毒提示合并多个基准构建。 - 有毒概念提示提取：从有毒样本中识别并选代表性有毒提示，利用 GPT-4O 等 LLM 抽象为有毒概念提示。 - 概念提示增强：用基于 LLM 的算法扩充概念提示集，生成新提示并计算与现有提示语义相似度，低于阈值则添加到下一轮迭代。 - 特征提取与训练：对每个概念提示，从 LLM 测试每一层提取最后一个标记的嵌入，与用户输入提示嵌入做元素级乘积并连接成特征向量，再用多层感知器分类器训练。 - 有毒检测：训练好分类器后，对用户输入提示提取特征输入分类器判断是否有毒。理论基础 - 利用 LLM 嵌入的语义表示能力：基于 LLM 最后一个标记的嵌入可代表整个句子语义的理论，ToxicDetector 提取和利用嵌入构建特征向量捕捉提示语义信息来准确分类。 - 灰色盒方法理念：受灰色盒模糊测试启发，ToxicDetector 在推理过程中利用内部嵌入，通过分析各层最后一个标记的最大内积嵌入值组成的特征向量识别有毒提示，兼顾可扩展性、效率和准确性。实验与结果 - 实验设计：使用 SafetyPromptCollections 和 RealToxicityPrompts 数据集，选 PlatonicDetector 等六种现有工具作基线，在 Ubuntu22.04 上用两个 Titan RTX 48G GPUs 配置实验，用多层感知器分类器训练，多次运行减少随机性。 - 评估指标：采用 F1 分数、误报率、准确率、ROC 曲线等评估指标。 - 主要实验结果：ToxicDetector 在不同场景下平均 F1 分数达 0.9635，误报率低至 0.019，准确率高；在正交数据集上也取得最佳性能，且处理速度快，适合实时应用，在检测有毒内容方面鲁棒性强，优于现有方法。
AI安全-论文
深度安全实验室: 以下是一些类似阿里cvalues、清华coai的safety prompts的最新论文： - 《Correlation-Aware Graph Convolutional Networks for Multi-Label Node Classification》：阿里安全交互内容安全团队与浙江大学软件学院周晟老师团队的研究成果，被KDD 2025收录。该论文针对多标签分类场景的图神经网络增强技术展开研究，提出CorGCN方法，先学习与多标签相关的节点特征并分解，再分解出多个标签感知图进行图增强，最后在标签感知图上进行关联增强的图卷积，以解决多标签场景下节点特征和拓扑结构的模糊性问题. - 《ToxicDetector: An Efficient and Automated Framework for Toxic Prompt Detection in Large Language Models》：由南洋理工等提出的高效大语言模型有毒提示检测新方法。引入基于LLMs嵌入的新特征表示有毒提示，开发了ToxicDetector自动化框架，可构建训练数据集、训练模型并实时检测各种现实世界LLMs中的有毒提示，还通过使用最新的LLMs对其进行了全面评估. - 《CHiSafetyBench: A Chinese Hierarchical Safety Benchmark for Large Language Models》：由中国联通的AI创新中心等机构提出，是首个针对中文语境下评估大语言模型识别风险内容和拒绝回答风险问题能力的分层安全基准。其包含一个涵盖5个风险领域和31个类别的中文安全分类数据集，通过选择题和问答两种任务类型，从风险内容识别和拒绝回答风险问题的能力等角度评估大语言模型. - 《GuardT2I: Defending Text-to-Image Generation from Adversarial Prompts》：香港中文大学提出的针对文本到图像模型的生成式防御框架GuardT2I，通过将t2i模型中的文本指导嵌入转换为自然语言，实现对各种对抗性提示的有效检测，并提供决策解释。引入条件大语言模型将潜在表示翻译为纯文本，结合双层解析方法进行提示审核，提高了框架的泛化能力.
LLM-数据集-测试集-CValues
深度安全实验室: self-instruct对应的论文是《SELF-INSTRUCT: Aligning Language Models with Self-Generated Instructions》，论文链接为：https://arxiv.org/abs/2212.10560.
LLM-数据集-测试集-CValues
深度安全实验室: Self - Instrcut和in - context learning主要有以下区别：定义和目的 - Self - Instrcut（自我指导）：是一种自动生成训练数据（主要是指令）的方法。它的目的是通过让语言模型自己生成指令和相应的回答，来扩大训练数据集，从而提升模型遵循指令的能力。 - in - context learning（上下文学习）：是一种利用提示（prompts）来引导模型生成回答的学习方式。它主要是通过在输入中提供一些示例（比如问答对或者任务示例）作为上下文，让模型根据这些示例理解任务要求，进而对新的输入做出合适的回答。数据来源和生成方式 - Self - Instrcut：数据主要是由模型自己生成。它先有一个初始的小的任务池，然后基于这个任务池，模型不断生成新的指令和实例，经过过滤等处理后用于训练自身。 - in - context learning：数据来源通常是人工编写或者从已有的数据集中抽取。这些数据被整理成合适的提示格式，作为输入的一部分提供给模型，模型并不参与这些数据的生成过程。对模型训练的作用 - Self - Instrcut：更侧重于对模型进行微调（fine - tuning），通过自己生成的大量指令相关的数据来优化模型的参数，使得模型能够更好地理解和执行各种指令任务。 - in - context learning：主要是利用已有的模型参数，通过巧妙设计输入的上下文（提示）来引导模型在不改变模型参数的情况下，对新任务进行推理和生成回答，属于一种利用模型现有能力的策略。

提示

确定要删除当前文章？

取消删除