比特派电话并给出了在端到端构建生成式AI应用时

发布日期:2023-12-06 13:23    点击次数:120

比特派电话并给出了在端到端构建生成式AI应用时

【TechWeb】10月27日消息,在亚马逊云科技生成式AI构建者大会上,亚马逊云科技大中华区产品部总经理陈晓建透露,截至目前,亚马逊云科技通过开箱即用的生成式AI服务及工具,已帮助1000+中小企业和初创公司快速实现生成式AI创新,已赋能10W+中国开发者,并给出了在端到端构建生成式AI应用时,企业还开发者应该注意的关键步骤。

布里兰是泰国超级联赛的劲旅,他们已经连续两个赛季摘得国内联赛冠军,作为亚冠杯常客,布里兰已经连续4届杀入亚冠杯小组赛,其整体实力实在不容小觑。本赛季,布里兰联赛开局不错,目前球队4轮联赛过后取得3胜1平的战绩位居泰超积分榜第2位。从近况来看,布里兰在最近一轮联赛取得4-0的比分的大胜,球队近3轮联赛连胜的同时期间更是打出8:0的得失球比,攻防端表现极佳。

拜仁慕尼黑本次欧冠和曼联、加拉塔萨雷以及哥本哈根分在A小组,整体来看,本组属于两强两弱的格局,拜仁慕尼黑和曼联是出线的两大热门,今年夏天签下凯恩、金玟哉、莱默和格雷罗后,拜仁慕尼黑顺利填补了卢卡斯、萨比策、马内和帕瓦尔离队后的空缺,而凯恩的到来对球队而言至关重要,毕竟上赛季在莱万多夫斯基离开后,无论是马内还是格纳布里,都无法在中锋位置上站稳脚跟,凯恩的技术特点对拜仁慕尼黑而言是个完美的补充,新赛季开始后,拜仁慕尼黑的表现比较稳定,4轮联赛3胜1平保持不败,期间合计打进11球,凯恩展现出极强的适应能力,目前已有4球入账,在他的策应和支点作用下,其身边的萨内、科曼等人也都有了更大的发挥空间,本场比赛主场面对近况不佳的曼联,拜仁慕尼黑还是会力争胜利,唯一不利的是主帅图赫尔上个赛季在欧冠和曼城的对话中被罚出场,本场比赛无法在教练席为球队出谋划策。

自从伊马诺.阿瓜西执教以来,皇家社会最近几个赛季的表现稳步提升,上个赛季球队更是取得西甲第四名的成绩,时隔10年后重新出现在欧冠赛场,今年夏天俱乐部送走波尔图、格瓦拉和萨尼安等冗员后,签下了安德烈席尔瓦、蒂尔尼和特劳雷等球员,同时让年轻的久保健英、巴雷尼特西亚上位主力,逐步完成阵容的更新换血,新赛季开始后,皇家社会的表现不算理想,联赛前三轮连续被弱旅逼平,虽然之后变阵433体系后,球队解决了进攻乏力的问题,但是防守端也带来了较大的压力,最近两场比赛丢了5球,本场欧冠小组赛面对新赛季火力十足的国际米兰,皇家社会的防守要面临不小的压力。

在组队超过4年多后,以1999年龄段球员为主力班底的中国男足亚运队终于于9月19日晚亮相作为球队“毕业大考”考场的杭州亚运会男足赛场。他们小组赛首轮比赛的对手是印度队。

6个月 助力1000+企业实现生成式AI创新

比特派糖果

今年4月中旬,亚马逊云科技推出多款生成式AI产品和服务,包括Amazon Bedrock(一项全新全托管服务,它允许用户通过API访问亚马逊云科技和第三方基础模型提供商的预训练基础模型)、Amazon Titan基础模型,并向个人开发者免费开放AI编程工具Amazon CodeWhisperer。

Amazon Bedrock是企业使用基础模型构建和扩展生成式AI应用程序的最简单方法,它是一项无服务器服务,提供了广泛的模型选择、数据隐私,并且能够自定义模型,无需管理任何基础设施。

陈晓建介绍,Amazon Bedrock目前提供的基础模型来自Meta、Anthropic、Stability AI、 AI21 Labs、Cohere等第三方领先提供商以及自身的Amazon Titan模型等,近期还加入了Meta的下一代开源大模型Llama2以及Anthropic的Claude2等热门基础模型。

同时,陈晓建强调:“Amazon Bedrock代理功能是一项全新的全托管功能,代理功能就会自动分解任务并创建编排计划,无需任何手动编码。该代理通过简单的 API 接口安全地连接到公司数据,自动将数据转换为机器可读的格式,并增加相关信息以生成最准确的回答。然后,代理可以自动调用 API 来满足用户的请求。”

亚马逊云科技推出的Amazon CodeWhisperer则是一款人工智能编码伙伴,在基础模型高级选项中使用,可以实时生成代码建议,从根本上提高开发人员的生产力。与未使用的参与者相比,使用Amazon CodeWhisperer的参与者完成任务的速度平均快57%,成功率高27%。

就是借助上述这些开箱即用的生成式AI服务及工具,陈晓建表示,亚马逊云科技已帮助1000+中小企业和初创公司快速实现生成式AI创新,已赋能10W+中国开发者。

陈晓建也强调,开发生成式AI应用是一个充满挑战的系统工程,并不是单纯的产品和服务拼接,因此,如何加速客户最终应用的商业化落地,除了亚马逊本身的资源以外,还需要构建强大的合作伙伴生态,携手助力解决生成式AI应用构建中的各种技术问题,加速应用落地。

目前,在国内,亚马逊云科技也和国内大模型创业企业百川智能进行合作,给与企业客户更多大模型选择。

尽管已经服务1000+企业,陈晓建向TechWeb表示,生成式AI应用整体还处在一个非常早期的阶段,生成式AI未来可以做的工作、带来的整个技术前景是非常广泛的,可能会超出我们每个人的想象。现阶段最重要的是能够快速地了解行业、了解客户诉求,包括自身能力提升等。

端到端的构建生成式AI应用的关键步骤

在过去6个月时间,亚马逊云科技团队已经有了服务1000+中小企业和初创公司快速实现生成式AI创新的经验。

在陈晓建看来,“生成式AI不仅仅是大模型,单独的基础模型无法执行任务”。整个生成式AI应用就像是浮在海面的冰山,露在海面上方能被大多数人看到的冰山一角就像是基础模型,而在冰川的底部,同样需要大量的基础模型以外的服务来支撑,如加速芯片,数据库,数据分析,数据安全服务等等。

亚马逊云科技提供了完整的端到端的生成式AI技术堆栈,从底层的加速层如加速芯片,存储优化,到中间层模型构建工具和服务,再到最上层的生成式AI相关应用,每一层都在针对客户的不同需求持续创新。”

因而在“端到端的构建生成式AI应用”时又有哪些关键路径需要走呢?

亚马逊云科技团队给出了四个步骤、五个层面:在步骤上,从应用范围、模型选择、模型适配和模型调整、最终到应用程序集成;五个层面,则涉及到选择合适的应用场景入手、借助专门构建的生成式AI工具和基础设施、融合企业私有化数据的数据基座、AI原生应用构建和生成式AI服务。

具体而言,在选择合适的应用场景,从典型场景入手创新业务模式方面,陈晓建表示,目前生成式AI典型的应用场景带给企业的业务价值主要体现在三个方面:增强客户体验、提升员工生产力与创造力、优化业务流程。

在亚马逊云科技过往的经验中,目前生成式AI应用得非常快的就是游戏行业,游戏行业本身有非常多的流程和素材生成都可以通过生成式AI来改善;营销方面,国内数字营销企业易点天下通过亚马逊云科技的技术推出了一个“生成式AI数字营销平台”;海尔创新设计中心通过生成式AI之后,借助于文生图、图生图这样的技术,可以非常高效地来快速生成素材,生产力提升20%。

在借助专门构建的生成式AI工具和基础设施方面,亚马逊云科技的CEO Adam Selipsky认为,没有一个基础模型可以适用于所有的业务场景。而用户应该做的是,根据自己的场景去选择一个最适合自己的基础模型。因而亚马逊云科技推出了Amazon Bedrock和Amazon SageMaker JumpStart这两项服务,帮助客户去安全地、便捷地选择最适合其业务的模型。Amazon CodeWhisperer这款AI编程工具则可以提高开发者效率。

另外,面向生成式AI构建强大的数据“基座”,需要一套全面的服务,以便能够存储用于构建和微调模型的各种类型的数据;还需要服务间的集成,以打破数据孤岛,确保能够随时访问所有数据;还需要在构建生成式AI应用程序的整个生命周期中,确保数据安全并对其进行管理。

每一个客户都会有自己的私域数据,这些业务数据,通用的大语言模型是不知道的。如果企业客户需要训练一个大语言模型的环境,能够更好地了解自身业务就需要把私域的知识库和大语言模型进行打通。使用私有化数据,打造差异化竞争优势。

最后,构建一个AI原生应用方面,亚马逊服务百万客户无数次变化的现代化应用转型过程中,积累了一些不变的经验,陈晓建分享给生成式AI时代的构建者:包括以微服务化和事件驱动架构为核心的设计框架比特派电话,松耦合的去处理每个功能模块之间的互相依赖;Serverless First简化运维,提升效率;数据决策优先,像资产一样重视数据,数据能力作为应用的核心竞争壁垒加入到生成式AI应用的设计理念中来;安全围栏,影响面控制,减小爆炸半径,将安全与数据的合规与保护放在前所未有的重要地位;避免重复造轮子,除了技术本身,在DevOps,基础设施即服务,自动化等现代应用治理理念持续投入,促进企业内部的应用资产与实践的分享,构建高效敏捷的构建者文化。

  声明:新浪网独家稿件,未经授权禁止转载。 -->