Knative 助力 XTransfer 加速应用云原生 Serverless 化

news/2024/5/20 10:33:53 标签: 云原生, knative, serverless

作者:元毅

公司介绍

XTransfer 是一站式外贸企业跨境金融和风控服务公司,致力于帮助中小微企业大幅降低全球展业的门槛和成本,提升全球竞争力。公司连续7年专注 B2B 外贸金融服务,已成为中国 B2B 外贸金融第一平台,目前全球的贸易企业也都已开始使用 XTransfer。

图片

业务场景

XTransfer 以科技为桥梁,链接中外大型金融机构和中小微企业,打造了以中小微企业为中心的数据化、自动化、互联网化和智能化的反洗钱风控基础设施。XTransfer 与知名跨国银行和金融机构合作,建设了 B2B 外贸金融全功能平台,能提供外贸收款、多币种现金管理、融资、理财、风控服务、客户管理等在内的综合解决方案,让中小微企业享受到和大型跨国集团企业同等水平的跨境金融服务。

面临的痛点

如今,全球贸易往来成为经济发展的一大命题,在 B2B 贸易碎片化、小型化和高频化的背景下,外贸企业对于实时、安全、普惠的跨境金融服务需求愈加迫切,技术能力也需要在客户的需求基础上进行不断的迭代优化,以提供更便利化的跨境金融和风控服务。由于 B2B 外贸交易信息分散且非结构化,保证交易信息识别的准确性和客户需求回答的即时性、稳定性是提供优质金融服务的基础,所以在底层基础设施建设上存在一定的挑战。面临的具体痛点表现为:

算法模型部署成本高

不仅包括硬件资源的成本,还包括维护、监控、故障修复等运维成本。传统的算法模型部署方式需要持续提供计算资源,即使在无请求时,也需要保持足够的服务实例以便应对可能的流量。这无疑会造成大量的资源浪费和高额的费用开销。

算法模型部署周期长

算法与工程边界模糊、耦合严重、相互制约,算法迭代效率不高,每次算法模型的迭代强依赖于业务工程,每次模型迭代都需要走一个完整的研发测试周期,流程长,效率低。而且在模型上线后,还需要对模型进行持续的监控和维护,这会进一步增加部署周期。

难以快速响应突发流量

在网络流量波动较大的情况下,例如在大批量风控规则任务跑批期间,传统的模型部署方式可能无法快速响应突然增加的流量,导致服务性能下降或者服务宕机。即便提前预估流量并增加服务实例,也可能因为流量预估不准确而造成资源浪费或者服务质量下降。

解决方案

由于 B2B 外贸交易信息分散且非结构化,保证交易信息识别的准确性和客户需求回答的即时性、稳定性是提供优质金融服务的基础,所以在底层基础设施建设上,XTransfer 与阿里云合作,专注于支持 Serverless 架构,落地了 Knative 部署平台。

XTransfer 的 DevOps 平台借助阿里云云原生 Knative 组件及 GPU 共享调度能力,支持算法模型的 Serverless 部署,算法工程师创建待上线模型版本、定义推理脚本、指定模型服务所需资源 (最小副本数、GPU 占用、内存占用等),后续整个模型发布流程在 DevOps 平台上完成即可。

图片

业务价值

目前,XTransfer 已经成功运用 Knative 部署平台,充分利用其自动伸缩、事件驱动、容器化部署以及版本控制、资源按需分配和释放、应用生命周期管理等功能。使用 Knative 部署平台能实现按需扩容和分层请求调用 GPU 资源,及时应对短时大批量请求,节省成本同时能保证服务器的稳定性。


http://www.niftyadmin.cn/n/5450562.html

相关文章

C/C++ 一些使用网站收集...

C/C 标准 各种语言协议标准文档 open-std.org 网站 C语言标准文档 open-std.org C基金会网站 C/C 标准库网站 c/c 标准库 cplusplus.com 网站 c/c标准库 cppreference.com 网站 C Core Guidelines【isocpp.org】 C/C 发展 C现有状态及未来规划【isocpp.org】

如何安全地添加液氮到液氮罐中

液氮是一种极低温的液体,它在许多领域广泛应用,但在处理液氮时需谨慎小心。添加液氮到液氮罐中是一个常见的操作,需要遵循一些安全准则以确保操作人员的安全和设备的完整性。 选择合适的液氮容器 选用专业设计用于存储液氮的容器至关重要。…

如何在CentOS 7上搭建Redis Sentinel ?

在CentOS 7上搭建Redis Sentinel包括安装Redis、配置Redis主从复制、以及设置Sentinel本身。以下是具体步骤: 1. 安装Redis 首先确保系统是最新的,然后安装Redis。如果你的CentOS 7没有自带Redis包,你可能需要先添加EPEL仓库。 sudo yum u…

AI工具集(国内版)

1 聊天/内容生成 文心一言https://yiyan.baidu.com综合型AI:内容生成、文档分析、图像分析、图表制作、脑图……2通义千问https://tongyi.aliyun.com综合型AI:内容生成、文档分析、图像分析……3Kimi(月之暗面)https://kimi.moonshot.cn综合型AI&#xf…

flask_restful渲染模版

渲染模版就是在 Flask_RESTful 的类视图中要返回 html 片段代码,或 者是整个html 文件代码。 如何需要浏览器渲染模板内容应该使用 api.representation 这个装饰器来定 义一个函数, 在这个函数中,应该对 html 代码进行一个封装&#xff…

地图爬虫工具 百度高德腾讯地图商家电话采集软件使用指南

使用地图爬虫工具可以方便地从百度、高德、腾讯地图等地图服务中获取商家的电话号码。下面是使用指南,并附带代码示例。 使用地图爬虫工具之前,我们需要安装相关的依赖库。建议使用Python作为开发语言,因为Python有一些非常好用的爬虫库可供…

ORCAL第四章

//显示当前用户 SQL> show user SQL> select sysdate from dual; SQL> set pause on SQL> desc scott.emp SQL> select empno,ename from scott.emp; //将缓冲区的命令保存到文本文件中 SQL> save e:\a.sql //将文本文件调到缓冲区 SQL> get e:\a.sql //执…

【ES6】Set和Map数据结构

目录 Set 用法 Set属性和方法 遍历 Map 用法 属性和方法 遍历 Set 用法 ES6 提供了新的数据结构 Set。它类似于数组,但是成员的值都是唯一的,没有重复的值。 Set本身是一个构造函数,用来生成 Set 数据结构。add()方法向 Set 结构加入…