核心要点:
·“去保护用户的核心业务”;
·“AI是我们重要的生产力工具”;
·“换个视角,是否可不战而屈人之兵”;
·“这么做,保护效果会比原来在单一维度上提高门槛,要好很多”;
·“ChatGPT出现后,对防守方而言,挑战一定更大”;
·“图神经网络的构建,就是在积累行业知识”;
·“小模型,就像一个个神经元”;
·“把我们的知识图谱与基座大模型结合”。
“兵法说,‘好战必亡’。我认为,‘百战百胜’是有问题的”,掌数信息CTO黄乐在位于北京朝阳区的办公间对到访的中广互联谈到,“换个视角,是否可以不战而屈人之兵?掌数信息想做的,是重新定义和组织安全实现的方法”。
在他办公室显眼的地方,放着一个摆台,写着四个字“为而不争”。
黄乐说,“我是一个好奇心很强的人”。自2018年起,他在北京组织“清流派”企业安全沙龙,每月都邀请近百位企业安全部门负责人探讨企业安全建设和管理思路。
他坦言,瞄准业务安全做创业,很多行业内朋友不太赞成。因为,业务行为太复杂,没法标准化。
黄乐说,“我们的看法是,要进行标准化的,实际是一套方法论。创立这家公司的时候,我们就明确,一定要用到AI,否则这个模式不成立”。他透露,“掌数信息根据一套底层方法论,来建立知识图谱。”
从业务视角来定义网络安全,那要怎么实现呢?黄乐说,“我们选择图计算结合小模型来实现”。
他的看法是,做安全一定是两个维度:一个是减少负面的东西,一个是增加正向的东西。国家很重视“数据要素”。所有公司,都要有数据处理能力。
图为:掌数信息CTO黄乐
中广互联:黄总,您好。首先请介绍一下掌数信息的成立背景,以及目前公司的核心团队,核心业务和方案,主要的客户类型等。如果可以的话,也请您分享一些个人的从业背景。
黄乐:掌数信息公司成立于2019年。公司核心团队是4个人,包括3位联合创始人(孙东、孙大凡和我)和研发总监。
创始人之一孙东是国内较早研究信息安全的博士,在行业管理部门和企业中有多年的安全工作经验。孙大凡在广电行业深耕二十余年。我在央视网工作了很长时间,从网络运维到网络安全工作都做过。
核心团队中的研发总监陈士华,则具有深厚的人工智能工作背景,曾经为人民银行做反洗钱AI建模。掌数信息的工作涉及大量人工智能,他为掌数构建技术体系起到了重要作用。
2018年起,我在北京组织“清流派”企业安全沙龙(疫情后节奏减缓)。每个月邀请各企业安全部门负责人探讨企业安全建设和管理思路。我们看到的一个很重要的点是,乙方提供的网络安全产品一直没能给甲方带来明确的业务保护方面的价值。换句话说,安全产品并没有实现甲方对业务保护的终极目标。
图为:黄乐编著的《企业信息安全建设之道》
从网络安全产品的卖方角度看,用户购买产品后,不仅需要招专人来使用产品,而且真正在“对抗”的时候,还是有很大可能会被“打穿”。所以卖方的困惑是——产品价值究竟要如何体现出来?
站在网络安全产品的使用方看,每年在网络安全上资金投入很大。一些大型活动比如热门赛事时,会遭受境外黑产攻击,很多时候会发现,标准的解决方案没有太大作用。甲方在思考,是否有破局方法?
掌数信息的成立,从有想法到真正成立,用时非常短。我们的核心团队认为,掌数信息可以为甲方提供更好的服务,要把安全防护的重点放在业务上。
我们观察到,大部分网络安全监测类产品的设计思路是往外看。至于“家里面”的事儿如何,并不关心。当然,这种设计思路大大提高了想“黑”进来的人的门槛,是非常有价值的。
但是对于家里的那些小门,能不能做防护呢?理论上可以,只是实际操作起来成本会非常高。如同,过去只是在大门放摄像头;而现在要在门内的每个小门门口都放摄像头。很多用户接受不了如此高昂的成本。
我们的思考方式是——客户真正需要保护的是家里的某个“保险箱”。我们在这个保险箱上,装一个密码传感器。即使知道密码,主人开密码和外人开密码的频率肯定不同。只要掌握这个习惯,发现开锁方式不同,就可以发现并报警。就比在所有地方严密布控要好得多。
也就是说,找到核心要保护的点,在那个位置做业务级监测。看好大门,是确保基础安全。再往上一个层次,就是去保护用户的核心业务。这是思维方面的变化。
中广互联:这种思路,掌数信息是如何落地实现的呢?
黄乐:从思路到落地,AI是我们重要的生产力工具。
即使是同样的业务,不同机构的业务行为都是不标准化的,即“千人千面”。
我们瞄准业务安全创业,很多行业内朋友都不赞成。因为,业务行为太复杂,没法标准化。
我们的看法是,要进行标准化的,实际是一套方法论。创立这家公司的时候,我们就明确,一定要用到AI,否则这个模式不成立。把学习、监测、研判,交给AI。
掌数信息从成立之初,就具备了AI基因。
中广互联:我注意到,您在2023年8月北京的BIRTV“网络安全论坛”和11月杭州的 ICTC“智能监管与网络安全论坛”上均发表演讲,谈“业务视角定义网络安全”。您可否就此谈谈,“业务视角”定义的“网络安全”有何特点?业务视角与传统视角下的“网络安全”有何不同?
黄乐:2023年的多次公开论坛发言中,我都集中于这个主题。作为创业公司,我们希望把这个标签打得鲜明。
从传统视角的网络安全,转移到业务视角的网络安全,不一定是技术上的颠覆,而是换一个视角看问题。
如果问一些网络安全的团队,“你在做的是什么”?很多会回答,“就是防住,不被打进来”。
兵法说,“好战必亡”。所以我认为,“百战百胜”是有问题的。
我们想,换个视角,是否可以不战而屈人之兵?
我想说,网络安全视角是ok的。只是回到业务视角重新思考问题,有件事没做——还没有对业务行为进行分析。
在对抗思维下,就是看是否防得住,顶得住再说。但,如果溜进来一个间谍,你可能不知道。
我们想做的,是重新定义和组织安全实现的方法。
中广互联:掌数信息现在做的事情,是否可以理解为,在传统安全的基础上,叠加了业务视角的保护工作?
黄乐:从全局看,似乎是“叠加”,但其实事情并不那么简单。
站在安全建设的角度看——“攻防层面的安全对抗”与“对业务系统的保护”,是相辅相成的关系。
我们建议,网络安全以合规为基础,原来已有的安全手段,运营起来,让安全门槛达到及格线。
更进一步,就是把视角放到看哪些重点业务需要保护和如何保护。
简单说,就是——有基准的安全防护能力之后,对重点业务做重点保护。这么做,保护效果会比原来在单一维度上提高门槛,要好很多。
中广互联:2022年底,OpenAI发布ChatGPT之后,人工智能技术有了突破性发展,大语言模型在过去一年多进展神速。在您看来,在此背景下,网络安全的实现与过去有哪些不同?存在着哪些挑战和机遇?
黄乐:我第一反应,网络安全工作更难了。
各行各业用大模型越来越多。黑产也会有自己的大模型。网络安全领域的挑战是,过去黑客写病毒变种,不了解原理不行,现在变得简单了。黑产要写钓鱼邮件,写代码,成本几乎为零,而且千变万化。
因此ChatGPT出现后,对防守方而言,挑战一定更大。我们看到的未来,就是机器对抗机器。
这是宏观的方面。
2022年,大模型刚出来的时候,我做了一件事——要求研发团队不要快速推出大模型。大模型成本很高。创业公司不适合一上来就押注。
我个人看法,大模型是更新一代的交互模式。第一代的交互模式,要用命令行,对技术要求很高;第二代则用Web界面,交互门槛降低,也还是需要专业能力。
到大模型时期实现交互,可以完全不懂技术,所以大模型是划时代的,意义重大。
有个很关键的部分,无论是命令行交互,Web界面交互,还是自然语言交互,虽然门槛降低了,但是基础的东西没有变——知识。
2022年上半年,在GPT还没推出的时候,我们团队就已经在累积知识图谱的能力。
用知识图谱的方式,沉淀人类知识,在业内已经有共识。针对某个行业,有通用知识;针对行业中某个组织,又有特定的组织知识。
何为专家?专家,就是在某个领域有大量通用知识的人。即使不了解某组织的具体情况,专家也可以指导其工作,就是因为他有大量通用知识。
因此,我们要向知识图谱的底层灌注行业通用知识;而要更进一步,则需要灌注该组织特定的知识。
掌数信息根据一套底层方法论,来建立知识图谱。
我们现在用心做好知识沉淀。至于何时推出自己的大模型,我们会谨慎决策。
中广互联: 可否介绍一下您作为CTO带领的技术团队,2023年取得了哪些突破?
黄乐:2023年,对外,掌数信息在不同行业验证了业务行为分析的逻辑是可行的,比如业务异动分析,金融业反诈,反薅羊毛等领域,我们的数据模型,都做了验证。
在内部,我们对模型做了精雕细琢,沉淀了更多有价值的知识。特别说明一下,掌数信息做了AI模型,只是暂没有做大语言模型。
尤其在2023年第四季度,基于图神经网络的能力,掌数信息做了拓展。
中广互联:您刚才提到,2023年掌数信息在金融行业也有拓展?
黄乐:对。2022年之前,我们绝大部分业务是在广电行业。2022之后,我们尝试拓展——看看我们这个能力是否可以迁移,结果发现可以。
我们做行为分析,找的是异常。扒开纷繁复杂的“外衣”,太阳下没有新鲜事,根源都是几个大的维度。掌握了关键维度,复制成本不会特别高。
不同场景下,图神经网络的构建,就是在积累行业知识。我们非常关注这个方向。
中广互联:做网络安全方面的公司去做图神经网络的构建,并不多,是么?
黄乐:在做安全的公司中做图神经网络的,确实比较少。单从安全角度说,掌数信息很笃定这条技术路线。
图神经网络的构建,是一种技术实现的方式。
掌数信息希望从业务视角来定义安全实现,那要怎么实现呢?我们选择图式计算结合小模型来实现。
大模型的深度学习,需要海量数据。模型不是越大越好,而是要看场景。目前我们用小模型做统计级分析,数据量要求不大,在一些场景下足以胜任。
可以这么理解,小模型,就像一个个神经元,某个神经元出现异常,不代表一定会出现问题;如果多个维度都出现问题,神经网络就会做出新的反馈。
我们正在训练的小模型,最终也会送到大模型。
中广互联:2024年,掌数信息期望在哪些方面做重点突破?
黄乐:2024年,我们会坚定地继续做知识沉淀,也计划在今年合适的时候,结合大语言模型,把底层的能力放到新的展示界面。也即,要把我们的知识图谱与基座大模型结合。
我们要把底层训练得足够好,再做封装。
中广互联: 最后,请您谈谈掌数信息公司的发展愿景,以及期望带给客户的独特贡献。
黄乐:掌数信息希望做到的是,通过技术方式,将广电行业内的所有数据用好。目前,我们把重点放在业务数据上,暂未涉及内容级数据。
做安全,一定是两个维度:一个是减少负面的东西,一个是增加正向的东西。
比如反诈,反薅羊毛,就是减少负面;增加正向的东西,比如,我们在帮助有经营压力的用户,用AI作经营数据数据。
我们对安全定义比较大。如果公司不赚钱,有资金风险,一定是巨大风险,就是有安全问题。
与数据有关的应用,可以是传统安全有关的事情,也可以是商业方面的行为分析。
我们不是传统意义上的安全的公司。反诈,要做画像;业务行为分析,也是做画像——技术路线一脉相承,只是画像维度不同。本质上,都是数据应用。
业务安全,不是不要网络安全。网络安全,是为了业务安全。在一个大视角下,业务安全包含网络安全。
现在,国家很重视“数据要素”。所有公司,都要有数据处理能力。要真正解决企业对业务安全的担心,就要将业务安全和网络安全结合,这个思路不是加法,而是升维。两个维度交叉,比一维准确太多。
中广互联:谢谢您接受采访。
黄乐:谢谢。
相关阅读
推荐阅读
专栏作者
经典栏目
精彩专题
关注我们
大视频行业最具影响力的媒体社群平台,重要新闻、独家视频、深度评论分析,推动电视行业与各行各业的连接。
集合电视台、网络视听、潮科技等各种好玩信息。
专注于报道广电行业新鲜5G资讯,致力于成为广电行业有权威、有深度的5G自媒体平台。
UHD、4K、8K的最新资讯和最深入的分析,都在这里。
视频产业的专业圈子,人脉、活动、社区,就等你来。
我们只沉淀有深度的信息和数据。
致力于卫星电视信息、卫星通信技术、天地一体网络应用案例、以及广电、通信等产业的市场动态、政策法规和技术资讯的传播。