祭祀什么意思| 阴虱是什么| 绦是什么意思| 什么叫211大学| 12月2日是什么星座| 肾疼是因为什么| 什么样的人容易抑郁| 九点到十点是什么时辰| 血小板是什么意思| 清明节的习俗是什么| 在屋顶唱着你的歌是什么歌| 月经期间头疼是什么原因| 雌二醇测定是什么检查| 清真是什么意思啊| 乙肝阻断针什么时候打| 什么叫外阴白斑| 主见是什么意思| 感冒吃什么药好得快| 什么是员额制| 冬练三九夏练三伏是什么意思| 梨子什么时候成熟| 布病是什么症状| 乌梅是什么| 白天不懂夜的黑是什么意思| 中央电视台台长什么级别| 免疫力低下吃什么好| 田野里有什么| 做三明治需要什么材料| 眉毛长痘是什么原因| 翠绿的什么| 什么水果可以解酒| 寂寞的反义词是什么| 评价是什么意思| 8月一日是什么节日| 不讲武德什么意思| 性生活时间短吃什么药| 抽筋缺什么维生素| 喉咙有烧灼感吃什么药| 安宫牛黄丸什么时候吃最好| 什么化痰效果最好最快| 猪肝跟什么相克| 高血糖能吃什么水果| 查过敏源挂什么科| 见什么知什么| 植物油是什么油| 不以规矩下一句是什么| 银梳子梳头有什么好处| 睡觉起来眼睛肿是什么原因| 长期吃面条对身体有什么影响| 病魔是什么意思| 雾化对小孩有什么影响或者副作用| 赛博朋克什么意思| 前纵韧带钙化是什么意思| 矫枉过正是什么意思| 知柏地黄丸治疗什么病| 凉皮是什么材料做的| 基诺浦鞋属于什么档次| levis是什么牌子| 梦见吃核桃是什么意思| 卫生纸筒可以做什么| 中暑什么症状| 杠杠滴是什么意思| 嘴巴很臭是什么原因引起的| 夏天适合喝什么养生茶| 血糖高能吃什么主食| 什么时间英语| 三昧什么意思| 家里镜子放在什么位置比较好| 外溢是什么意思| 吃什么长高| 颂字五行属什么| 蟑螂卵什么样| 手脚心发热是什么原因| 苯丙酮尿症是什么| 你为什么爱我| 兰花是什么颜色| 宝宝照蓝光有什么副作用| 肌腱炎是什么症状| 人老珠黄是什么动物| 吃什么排宿便清肠彻底| 眉眼是什么意思| 待业什么意思| 突然腰疼是什么原因| 寒胃有什么症状| 氨水是什么| 朝对什么| 凶猛的动物是什么生肖| 年少轻狂下一句是什么| 什么是无机盐| yankees是什么牌子| 沙悟净是什么生肖| 桂圆跟龙眼有什么区别| 美的不可方物是什么意思| 38年属什么生肖| 1977年是什么命| 胃穿孔是什么症状| 呼吁是什么意思| 升结肠管状腺瘤是什么意思| 买李世民是什么生肖| 水光是什么| 什么可以减肥| 心急是什么病的症状| 高血压可以喝什么饮料| 血糖高是什么原因引起的| 肛裂涂什么药膏能愈合| acca是什么专业| 艾草长什么样| 麦粒肿用什么药| 2月5号什么星座| 傍大款是什么意思| 党参长什么样| 干冰是什么| 月亮星座代表什么意思| 烂嘴角是缺什么维生素| 风寒感冒吃什么水果| dhc是什么| 脾胃不好吃什么食物可以调理| 肝脏分泌什么| anna是什么意思| 细菌感染是什么原因| 狙击蟹吃什么| 刘海是什么意思| 胡言乱语是什么意思| 胆结石有什么症状有哪些| 日本天皇叫什么名字| 短头发烫什么发型好看| 坐阵是什么意思| 我一言难尽忍不住伤心是什么歌| 滥竽充数的滥是什么意思| 茭白不能和什么一起吃| 身主天相是什么意思| 老公生日送什么礼物好| 松花蛋是什么蛋| 撒西不理是什么意思| 黄芪最佳搭配是什么| 七夕节是什么节日| 做梦剪头发是什么意思| 手背有痣代表什么意思| 达芬奇是干什么的| 2010年什么年| 喜气洋洋是什么意思| 什么的跳舞| 身上起红疙瘩是什么| 吃什么排湿气| 宣肺是什么意思| 甲状腺不能吃什么食物| 25属什么生肖| 阑尾炎吃什么药| rm是什么币| 心脏瓣膜关闭不全吃什么药| 梦见做手术是什么意思| 定亲是什么意思| 肚脐是什么穴位| 平行宇宙是什么意思| 手掉皮是缺什么维生素| 情节是什么| 什么是夏至| 骨髓移植是什么意思| 什么叫扁平疣| 一生辛苦不得财是什么生肖| 遵命是什么意思| 膀胱炎是什么症状| 漉是什么意思| 胃疼和肚子疼有什么区别| 空集是什么意思| 词讼是什么意思| 今天什么日子老黄历| 查血清能查出什么病| 扑尔敏的学名叫什么| 青霉素主治什么病| 丢包率是什么意思| 什么的叹气| 什么牌子的洗发水好用| 御三家是什么意思| 腋毛癣用什么药| 情感什么意思| 酒后第二天吃什么| 口腔上火了吃什么降火最快| renewal什么意思| 菌痢的症状是什么样| 黄瓜炒什么| 脑供血不足做什么检查能查出来| 吃干饭是什么意思| 待寝什么意思| 小病不治下一句是什么| 土霉素喂鸡有什么作用| rps是什么| 1207是什么星座| 不割包皮有什么影响| 蜜蜡是什么材质| 深褐色是什么颜色| 宫颈肥大有什么症状| 一什么花瓶| 用神是什么意思| 护肝片什么时候吃最好| 吃什么能帮助睡眠| 水囊是什么| 发高烧是什么原因引起的| 耳石症挂什么科| 得了乙肝有什么症状| 甲状腺是什么功能| 手术后能吃什么水果| 7月16日是什么星座| 偏印代表什么| 鲤鱼吃什么| 房性早搏吃什么药| 双子座的幸运花是什么| 椅子像什么| 扁桃体是什么样子图片| 拔了尿管尿不出来有什么好办法| 痣的位置代表什么| 为什么喜欢你| 腰椎退变是什么意思| 乳腺纤维瘤是什么原因引起的| 319是什么意思| 路由器坏了有什么症状| 什么是鸡胸| 耘是什么意思| 警察为什么叫蜀黍| 什么菜不能吃| 么么么是什么意思| 肺阴虚吃什么中成药| 猫为什么不怕蛇| 蒟蒻是什么东西| 蚯蚓靠什么运动| pet是什么| 落红是什么意思| 桃李满天下的桃李是什么意思| 中之人什么意思| 2006年出生属什么| 内分泌失调吃什么| 做梦哭醒了有什么征兆| 为什么智齿老是发炎| 血小板高是什么问题| 头皮上长疣是什么原因造成的| 十月是什么星座| 办身份证需要准备什么| 皇帝为什么自称朕| 孕妇为什么会水肿| hpv是什么意思| 乌鸡煲汤放什么材料| 过敏不能吃什么| 下山虎是什么意思| 牛蛙不能和什么一起吃| 什么名字好听| 纯化水是什么水| 什么然| 怪力乱神是什么意思| 双瞳电影到底讲了什么| 封闭针是什么药| 石英表不走了是什么原因| 青少年吃什么钙片有助于长高| 别致是什么意思| 什么是象限| 印堂发红是什么的征兆| 铁锭是什么意思| 第四个手指叫什么| 什么是高脂肪食物| 刚需是什么意思| 云南白药的保险子是起什么作用的| 维生素b族适合什么人吃| 瞬息什么| 一个口四个又念什么| 锤子是什么意思| 百度
0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

手抖是什么病

OSC开源社区 ? 来源:OSC开源社区 ? 作者:OSC开源社区 ? 2025-08-06 10:47 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

背景

目前,日志异常检测算法采用基于时间序列的方法检测异常,具体为:日志结构化 -> 日志模式识别 -> 时间序列转换 -> 异常检测。异常检测算法根据日志指标时序数据的周期性检测出历史新增、时段新增、时段突增、时段突降等多种异常。 然而,在实际中,日志指标时序数据并不都具有周期性,或具有其他分布特征,因此仅根据周期性进行异常检测会导致误报率高、准确率低等问题。因此如果在日志异常检测之前,首先对日志指标时序数据进行分类,不同类型数据采用不同方法检测异常,可以有效提高准确率,并降低误报率。

日志指标序列的类型

日志指标序列分为时序数据与日志指标数据两大类:

时序数据:包含平稳型、周期型、趋势型、阶跃型。

f92c8d0a-7740-11ed-8abf-dac502259ad0.png

日志指标数据:包含周期型、非周期型。

f940fc5e-7740-11ed-8abf-dac502259ad0.png

时间序列分类算法

时间序列分类是一项在多个领域均有应用的通用任务,目标是利用标记好的训练数据,确定一个时间序列属于预先定义的哪一个类别。时间序列分类不同于常规分类问题,因为时序数据是具有顺序属性的序列。 时间序列分为传统时间序列分类算法与基于深度学习的时间序列分类算法。传统方法又根据算法采用的用于分类的特征类型不同,分为全局特征、局部特征、基于模型以及组合方法 4 大类。基于深度学习的时间序列算法分为生成式模型与判别式模型两大类。本文主要对传统时间序列分类算法进行介绍。

f95625f2-7740-11ed-8abf-dac502259ad0.png

传统时间序列分类算法

基于全局特征的分类算法

全局特征分类是将完整时间序列作为特征,计算时间序列间的相似性来进行分类。分类方法有通过计算不同序列之间距离的远近来表达时间序列的相似性以及不同距离度量方法 + 1-NN(1 - 近邻)。主要研究序列相似性的度量方法。

时间域距离

问题场景描述: 如下图所示,问题场景是一个语音识别任务。该任务用数字表示音调高低,例如某个单词发音的音调为 1-3-2-4。两个人说同一单词时,因为音节的发音拖长,会形成不同的发音序列 前半部分拖长,发音:1-1-3-3-2-4 后半部分拖长,发音:1-3-2-2-4-4 在采用传统欧式距离,即点对点的方式计算发音序列距离时,距离之和如下:欧式距离 = |A (1)-B (1)| + |A (2)-B (2)| + |A (3)-B (3)| + |A (4)-B (4)| + |A (5)-B (5)| + |A (6)-B (6)| =6_x0001_

f984d65e-7740-11ed-8abf-dac502259ad0.png

算法原理: 如果我们允许序列的点与另一序列的多个连续的点相对应(即,将这个点所代表的音调的发音时间延长),然后再计算对应点之间的距离之和,这就是 dtw 算法。dtw 算法允许序列某个时刻的点与另一序列多个连续时刻的点相对应,称为时间规整(Time Warping)。如下图所示,语音识别任务的 dtw 距离如下: dtw 距离 = |1-1| + |1-1| + |3-3| + |3-3| + |2-2| + |2-2| + |4-4| + |4-4| = 0 dtw 计算出的距离为 0,由此代表两个单词发音一致,与实际情况相符。

f9adc776-7740-11ed-8abf-dac502259ad0.png

算法实现: dtw 算法实现包括计算两个序列各点之间距离构成矩阵以及寻找一条从矩阵左上角到右下角的路径,使得路径上的元素和最小两个主要步骤。距离矩阵如下图所示,矩阵中每个元素的值为两个序列对应点之间的距离。DTW 算法将计算两个序列之间的距离,转化为寻找一条从距离矩阵。左上角到右下角的路径,使得路径上的元素和最小。实现要点如下:

转化为动态规划的问题(DP);

由于寻找所有路径太耗时,需要添加路径数量限制条件(可以等效为寻找矩阵横纵坐标的差的允许范围,即 warping window)。

f9d9847e-7740-11ed-8abf-dac502259ad0.png

差分距离法

差分距离法是计算原始时间序列的一阶微分,然后度量两个时间序列的微分序列的距离,即微分距离。差分法将微分距离作为原始序列距离的补充,是最终距离计算函数的重要组成部分。 对于一个时间序列 t=(t1, t2, …,tm),其一阶微分计算公式如(2-1)所示,二阶微分计算公式如(2-2)所示,更高阶的微分计算方式依次类推。差分距离法将位于时间域的原时间序列和位于差分域的一阶差分序列相结合,提升分类效果。研究方向主要是如何将原序列和差分序列合理结合。

f9ece988-7740-11ed-8abf-dac502259ad0.png

基于局部特征的分类算法

将单条时间序列中的一部分子序列作为特征,用于时间序列分类。主要有以下特点:

关键在于寻找能够区分不同类的局部特征;

由于子序列更短,因此构建的分类器速度更快;

但由于需要寻找局部特征,需要一定的训练时间。

fa0441d2-7740-11ed-8abf-dac502259ad0.png

基于间隔(interval)的分类算法

基于间隔(interval)的分类算法分类方法是将时间序列划分为几个间隔,从每个间隔中提取特征。过程中需考虑以下关键问题:

需要找到最具有区分度特征的区间;

区间划分方法很多,如果处理大量的候选区间;

如何在每个区间上合理提取特征。

关键问题解决方法如下(TSF-Time Series Forest):

采用随机森林的方法解决序列区间数量大的问题,采用统计值作为特征;

长度为 m 的序列,提取 sqrt (m) 个区间,每个区间上提取均值、标准差和斜率三个特征,共 3*sqrt (m) 个特征用于训练;

分类结果由集成的所有树的多数投票决定;

fa3332da-7740-11ed-8abf-dac502259ad0.png

基于 shapelets 的分类算法

shapelet 分类算法通过在序列中查找最具辨别性的子序列用于分类,其中 shapelet 指一个与位置无关的最佳匹配子序列。该类算法适用于可以通过序列中的一种模式定义一个类,但是与模式的位置无关的分类问题。主要有以下两个研究方向:

shapelet 寻找:枚举所有可能的 shapelet,挑选最好的;

shapelet 用法:将 shapelet 用于决策树的结点分裂准则。

fa4f6c70-7740-11ed-8abf-dac502259ad0.png

fa76651e-7740-11ed-8abf-dac502259ad0.png

shapelet 分类算法通过在序列中查找最具辨别性的子序列用于分类,其中 shapelet 指一个与位置无关。

fa91c21e-7740-11ed-8abf-dac502259ad0.png

基于词典的分类算法

由于 shapelet 分类算法需要花费大量时间搜索子序列,因此更适用于短序列。对于长序列,更适用于在高级结构上衡量相似度。此外,shapelet 只使用一个最佳匹配进行分类,无法解决区别在模式重复数量上的分类问题。因此,对于长序列中一种模式反复出现的时间序列,更适用于一种叫做 dict 词典类的分类算法。 基于词典的分类算法原理是以序列中的子序列的重复频率作为特征进行分类。首先对序列进行降维和符号化表示,形成单词序列,然后根据单词序列中的单词分布情况进行分类。特点是通过给每个序列传入一个长度为 w 的滑动窗构建单词,每一个窗产生 l 个近似值,将每个值离散化,对应到一个字母表中的符号。 BOP - Bag of Patterns 采用了类似 “bag of words” 的思路,将时间序列表示成一系列模式的向量。存在问题如下:

需要构建 “模式词汇表 -> SAX

时间序列没有明显分隔符进行分割。- 滑动窗口

操作步骤如下:

BOP 算法采用滑动窗口在原始序列上取子序列;

再利用 SAX 方法将子序列转化为单词,并记录每个单词数量,所有的单词汇总为词汇表;

最后构建 “单词 - 句子” 向量矩阵,行是词汇表,列是每个时间序列,点的值是词汇在序列中的出现频率。

_x0008_SAX (Symbolic Aggregate Approximation) 对序列进行正则化,在横轴方向,将时间序列等长划分为 w 段,计算每一段的均值,并将 w 个系数聚集在一起,这个过程称为分段聚集近似(Piecewise Aggregate Approximation,PAA)。 研究表明正则化的时间序列的子序列服从高斯分布,在纵轴方向,将均值从高斯分布等概率划分为三块区域,位于每个区域的系数分别用 a,b,c 表示,此时序列已转化为字符串。

fac34ee2-7740-11ed-8abf-dac502259ad0.png

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 数据
    +关注

    关注

    8

    文章

    7261

    浏览量

    92276
  • 检测算法
    +关注

    关注

    0

    文章

    122

    浏览量

    25527

原文标题:日志异常检测准确率低?一文掌握日志指标序列分类

文章出处:【微信号:OSC开源社区,微信公众号:OSC开源社区】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    【「时间序列与机器学习」阅读体验】全书概览与时间序列概述

    模型、指数平滑方法、Prophet,以及神经网络,例如循环神经网络长短期记忆网络、Transformer、Informer 等。 ●第4章“时间序列异常检测”:介绍
    发表于 08-07 23:03

    基于粒子群优化算法的属性异常检测算法

    属性异常算法时间复杂度是多项式级的。与全搜索检测算法相比,大幅减少了搜索范围;同时,与完全随机算法相比,
    发表于 11-20 09:21 ?4次下载

    多变量水质参数时间异常事件检测算法

    在供水管网中部署传感器网络实时获取多个水质参数时间序列数据,当供水管网发生污染时,高效准确地检测水质异常是一个重要问题。提出多变量水质参数时间
    发表于 12-07 16:17 ?0次下载
    多变量水质参数<b class='flag-5'>时间</b><b class='flag-5'>异常</b>事件<b class='flag-5'>检测算法</b>

    密度偏倚抽样的局部距离异常检测算法

    异常检测是数据挖掘的重要研究领域,当前基于距离或者最近邻概念的异常数据检测方法,在进行海量高维数据异常
    发表于 12-25 14:11 ?0次下载

    基于概率图模型的时空异常事件检测算法

    当网络异常事件发生时,传感器节点间的时空相关性往往非常明显。而现有方法通常将时间和空间数据性质分开考虑,提出一种分散的基于概率图模型的时空异常事件检测算法。该
    发表于 12-28 15:54 ?0次下载
    基于概率图模型的时空<b class='flag-5'>异常</b>事件<b class='flag-5'>检测算法</b>

    基于角度方差的数据流异常检测算法

    传统基于欧氏距离的异常检测算法在高维数据检测中存在精度无法保证以及运行时间过长的问题。为此,结合高维数据流的特点运用角度方差的方法,提出一种改进的基于角度方差的数据流
    发表于 01-17 11:29 ?1次下载
    基于角度方差的数据流<b class='flag-5'>异常</b><b class='flag-5'>检测算法</b>

    机器学习算法概览:异常检测算法/常见算法/深度学习

    异常检测,顾名思义就是检测异常算法,比如网络质量异常、用户访问行为
    发表于 04-11 14:20 ?1.8w次阅读
    机器学习<b class='flag-5'>算法</b>概览:<b class='flag-5'>异常</b><b class='flag-5'>检测算法</b>/常见<b class='flag-5'>算法</b>/深度学习

    基于时间卷积网络的通用日志序列异常检测框架

    基于循环神经网络的日志序列异常检测模型对短序列有较好的检测能力,但对长
    发表于 03-30 10:29 ?8次下载
    基于<b class='flag-5'>时间</b>卷积网络的通用<b class='flag-5'>日志</b><b class='flag-5'>序列</b><b class='flag-5'>异常</b><b class='flag-5'>检测</b>框架

    基于车辆轨迹特征的视频异常事件检测算法

    检测算法,对视频中的车辆目标进行提取,提出了结合运动特征和表观特征的多目标追踪算法;在此基础上,又提出了一种基于车辆轨迹特征的异常事件检测方法,其中的追踪
    发表于 05-13 14:45 ?5次下载

    一种多维时间序列汽车驾驶异常检测模型

    针对传统异常检测模型难以准确分析汽车驾驶异常行为的情况,建立一种基于自动编码器与孤立森林算法的多维时间
    发表于 05-26 16:32 ?2次下载

    基于离群点检测算法的电力市场异常行为辨识

    为了监管电力市场中存在的各类违规行为,保证市场的公平竟争,提岀了一种基于分阶段离群点检测算法的电力市场异常行为辨识方法。梳理不同交易阶段异常行为的特征,提取相应的特征指标,采用主成分分
    发表于 06-01 10:43 ?4次下载

    虚拟机迁移的物理主机异常状态检测算法

    虚拟机迁移的物理主机异常状态检测算法
    发表于 06-30 11:13 ?20次下载

    如何选择异常检测算法

    ③ 数据清理——在训练另一个模型之前从数据集中去除异常值。 你可能已经注意到,一些不平衡分类的问题也经常使用异常检测算法来解决。例如,垃圾邮件检测任务可以被认为是一个分类任务(垃圾邮
    的头像 发表于 10-25 09:15 ?1989次阅读

    智能电网时间序列异常检测:a survey

    故障、中断、外部网络攻击或能源欺诈引起的。识别这些异常对于现代电网的可靠和高效运行至关重要。对电网时间序列数据进行异常检测的方法有很多种。本
    发表于 04-04 16:13 ?0次下载
    智能电网<b class='flag-5'>时间</b><b class='flag-5'>序列</b><b class='flag-5'>异常</b><b class='flag-5'>检测</b>:a survey

    【AIOps】一种全新的日志异常检测评估框架:LightAD,相关成果已被软工顶会ICSE 2024录用

    需要更长的时间来进行日志预处理、模型训练和模型推断,从而阻碍了它们在需要快速部署日志异常检测服务的在线分布式云系统中的采用。 本文对现有的基
    的头像 发表于 11-29 17:40 ?1156次阅读
    手术后不能吃什么食物 久咳不愈是什么原因 生理期为什么会肚子疼 续弦是什么意思 菠萝蜜吃多了有什么坏处
    秦始皇墓为什么不敢挖 喉咙有痰是什么原因 超度什么意思 梦见怀孕的女人是什么意思 婚检都检查什么项目
    没经验开什么店最简单 谩骂是什么意思 没脑子是什么意思 眼睛有红血丝是什么原因 山药炒什么好吃
    衣服38码相当于什么码 脱毛膏是什么原理 高血压吃什么食物好 坐围和臀围有什么区别 00年是什么年
    白细胞30是什么意思0297y7.com 小年是什么时候hcv9jop1ns6r.cn 子宫肌瘤手术后吃什么好hcv8jop9ns5r.cn 北京豆汁儿什么味道hcv8jop6ns3r.cn 脑供血不足吃什么hcv8jop6ns5r.cn
    脱臼是什么感觉0735v.com 督察是什么级别hcv8jop2ns0r.cn 汗蒸有什么好处和功效hcv9jop5ns5r.cn 口酸是什么原因travellingsim.com 慢性结肠炎吃什么药好hcv9jop1ns7r.cn
    kpi是什么hcv9jop1ns3r.cn 什么叫智齿hcv7jop5ns2r.cn 伴侣是什么意思hcv9jop1ns3r.cn 赢字五行属什么hcv7jop6ns7r.cn 为什么会长水泡hcv8jop5ns2r.cn
    眼泪为什么是咸的bjcbxg.com 66岁生日有什么讲究96micro.com ab型血为什么叫贵族血youbangsi.com 肝内钙化灶是什么意思hcv9jop5ns2r.cn 丙三醇是什么东西hcv8jop1ns0r.cn
    百度