内容审核,可以说是许多怀着社交梦想的企业家的致命要害了。远的有支付宝的“圈子”事件,打断了楚垣夕老熟人老樊的上升势头;不远不近的有段子被勒令注销,火山和快手被限期整改;近有小红书全网下架,眼睁睁的看着微博推出绿洲,利用小红书下架的窗口期填补空白;最近的有即刻停服一年,可谓极为惨烈。
小红书虽然全网下架,但是服务器并没有停机,老用户仍然可以使用,只是新用户在几个月的时间内进不来。虽然这也是毁灭性打击,特别是对融资有需求的时候,堪称致命,但也只是堪称。
而即刻这款日活跃达到200万的社交应用是被勒令停服。
这是一种宿命式的停服,因为新锐社交小玩家能使用的力量极为有限,这点有限的力量必然要转化为产品力,把产品做到极致,才有可能在国朝社交的铁幕上撕开一道缝隙,撕出传播的空间,不然无法呼吸。因此,没有多少余力去做保驾护航的科目。
这恰恰是大企业的必修课,在任何国家都可以进行公开进行表达。
而做内容社交的,失败的自不必说,做成的,用户数量一旦膨胀到一定级别,都不需要友商注入黄色信息,用户自滋生出内容风险几乎是必然的事情。微信和QQ每天都面临着海量的此类风险。
因此即便大企业也难于避免此类风险,只是大企业之所以大,就体现在抗风险的能力强,段子即使被注销,并没有让头条系伤筋动骨,火山快手的整改亦然。但像即刻这样的小产品小团队,停服就是天塌了。
反正楚垣夕要是看到小康被勒令停服,肯定是一口气背过去。从这个意义上来说,即刻整改长达一年之久,还能坚持,保持公司不散架,并且通过各种方法在去年完成自救,可以说是不大不小的奇迹了,楚垣夕自愧不如。
引这种惨案的,归根结底都是内容风控跟不上用户数量膨胀的锅。
巴人的时代楚垣夕不用考虑这些,因为风险全都由平台承担,要砸也是楚垣夕去砸抖音的锅。但从小康开始做社交那天起,内容风控都被放在很重要的地位上。
实际上AI团长和社区群组的风险还比较低,就像在微信和QQ里搞黄色一样,平台当然也有风险,不过更大的风险在于用户自身。但康康就不是了,它是公众布内容的地方,就算是以黑板报的形式,但是终归是可以通过社交链穿透小康本身的一个个小圈的。
因此,风险和自身的影响力成比例,没有影响力的时候啥事没有,现在每天有大几千万人使用,影响力与日俱增。
这种风险就连微博这么成熟的社交平台都无法避免,去年年中被监管部门严肃整改的事情还历历在目。
因此,康康中必然会涌入一大群准备砸锅的人,或者本身就怀着恶意,或者是自认为正常的社交行为,实际上孕育着极大的风险。
对此,小康自然是早早就做了准备和预案。但是,过度风控又会极大的打击用户,伤害用户体验,其中的度,想要把握好是很难的。这方面企鹅远远的走在国朝所有社交玩家的前边,也包括小康。
因此这类工作中有很多楚垣夕必须亲自过问,丝毫马虎不得,表现为产品的问题不能甩给总监,更不能甩给产品经理,可能某个功能是否先关掉这种小事,都得总裁亲自拿主意。
譬如说私信功能管起来是真难,管也不合适,不管又非常危险,交给AI做屏蔽判断还可能闹笑话,微信已经闹了不少笑话。
而且这其实已经快要触及到楚垣夕的知识盲区了,原世界中小康社区也膨胀到了这个状态,因此这一步怎么走他感觉大概还能还说的清楚,从下一步开始必须进行AB测试,要进行试错,找些石头摸一摸才好过河。
之所以是“大概”,因为,两个世界肯定有着不一样的地方,两个小康的状态也是截然不同的,因此肯定不能直接无脑套用原世界的经验。如果没有石头,就自己往河里扔石头。
比如说这一步,楚垣夕这一回想到的解法是从产品力上找齐,咱们关掉私信,但又不关。
“这怎么可能呢?”
小康的产经群都被震翻了,如果这话不是楚垣夕说出来的势必要遭到一番口诛笔伐。
“可能啊,咱们把私信这个功能进行升级,升级懂吗?”
“那升级的方向呢?”
“升级的方向?AI更容易进行判断的方向呗。”楚垣夕非常稳健的说,“比如说改成‘话题’,你们觉得呢?”
小康社交目前的现状是注重群组言,对用户一对一的私聊则不提倡,所以才把私聊功能限制在“私信”这种从名称上看就不是即时聊天的模式上。
但是即便如此私信里也可以淫秽色情广告,这就是最容易出现的风险。要知道小广告的那可是殚精竭虑,而且懂的人是真懂,曾经点评里面的各种按摩spa会所下面,招pao信息靠给热门点评点赞的方式来完成,点赞就会录下足迹,然后招pao账户什么话都不说,只改自己的个人备注,改成尽人皆知的暗号,简直防不胜防。
但是一旦出了问题,被人朔本归源顺藤摸瓜,就是平台的锅。
唯一能够对付这种人的只有AI,但是训练起来太难。楚垣夕的思路就是给用户私聊的空间,但是要在一定框架内聊,不是官方设置的框架,而是用户自己设置的,从原世界的经验来看这样的私聊能够极大的降低AI检测和屏蔽的难度,即便是存在大量暗号的情况下,还可以通过私聊生的场景进行判断。
比如说这种简短的私聊,地点生在初高中——
男:备注仲君
女:备注紫琏
男:xs
女:xs
男:cpy
女:可
这种暗号就不应该被屏蔽。
但是即便如此进行改进,肯定也要影响一下近期的康康生态,楚垣夕感到有些头疼的地方在于,即便明知道会有大量用户涌入,也不方便提前升级产品,因为每一个社区的生态都是独特的,原世界的小康社交和现在的康康也不可能全部相同,否则春节之前直接把“私聊”升级到“话题”,就没有烦恼了。
其实在小康上下忙而不乱的处理这些问题时,外界也一直都在等着看笑话。有人说这叫胃口太大了吃到蛋,有人说搞社交的切忌膨胀的太快,大热必死,也有人冷笑着给康康注入危险的信息流。