PG电子官方网站12月15日,2023 英特尔新品揭橥会暨 AI 技巧立异派对上硬件,星环科技基于第五代英特尔®至强®可扩展管理器的Transwarp Hippo分散式向量数据库处置计划重磅揭橥。该计划愚弄第五代英特尔®至强®可扩展管理器带来的壮大算力,告终了约 2 倍的代际机能擢升,可有用满意大模子时间海量、高维向量的存储和策动需求,可能帮帮企业更好地应对大模子时间海量、多维向量数据的高并发和及时策动等寻事。
基于差异代际英特尔®至强®可扩展管理器的 Transwarp Hippo 机能对照
以大发言模子为代表的人为智能 (AI) 操纵崭露爆炸式增进布景下,企业关于非组织化数据的存储与管理需求崭露了疾速增进,分散式向量数据库取得了遍及操纵。分散式向量数据库正在大模子操纵中饰演着主要脚色,大模子+向量数据库的架构可能让大模子保留数据的及时性,使大模子具有 “恒久纪念”,处置模子须要多次二次练习材干满意差异交易需求硬件。同时,通过多模态新闻的向量化,帮帮大模子满意回复新闻及时性条件。
星环科技分散式向量数据库 Transwarp Hippo 行为一款企业级云原生分散式向量数据库,基于分散式个性,可能对文档、图片、音视频等多源、海量数据转化后的多维向量举行同一存储和拘束,可能通经过度扩展架构,充溢表现并行检索本领,告终毫秒级高机能数据检索,勾结肖似度检索等技巧,帮帮用户疾速发现数据代价。
一站式:供给向量转化器材和Embedding模子,一站式达成模子上架、模子评估和模子陈设,下降用户操纵本钱,抬高数据入库效劳硬件硬件。
高精度:多类索引声援,一库搞定向量+全文联结检索,抬高峻模子召回切实率;勾结自研图数据库,可进一步抬高峻模子精度。
高机能:声援多历程架构与GPU加快,充溢表现并行检索本领,勾结软硬件深度优化,充溢表现CPU多核、高内存带宽等上风,为海量、多维向量供给强劲算力。
易对接:供给模范的Python、Restful、Java API等接口,可轻松对接百般操纵和模子,抬高操纵开辟和挪用的效劳。
正在搭配第五代英特尔®至强®可扩展管理器之后,星环科技分散式向量数据库Transwarp Hippo 可能供给壮大的机能根本,正在大模子等场景创作宏大代价。
维持数据的高效管理:基于第五代英特尔®至强®可扩展管理器的 Transwarp Hippo 可能告终海量、高维度向量数据管理,并具备低时延、高无误度等上风,可能满意大模子练习等场景关于数据管理本领的苛刻条件。
下降向量数据库的总体具有本钱 (TCO):因为第五代英特尔®至强®可扩展管理器告终了代际机能的大幅擢升,有帮于擢升 Transwarp Hippo 任事器节点的机能密度,帮帮用户节俭正在职事器采购、陈设等方面的投资。同时,第五代英特尔®至强®可扩展管理器正在机能擢升的同时,具备更高的每瓦机能,有帮于节俭单元机能的能耗开支。
具备机能进一步擢升潜力:除了更多的中枢数目,更速的 IPC 机能以表,第五代英特尔®至强®可扩展管理器还搭载了英特尔®In-Memory Analytics Accelerator(英特尔®IAA)等硬件加快个性,有帮于进一步擢升数据库等场景的机能。
基于第五代英特尔®至强®可扩展管理器的星环科技分散式向量数据库 Transwarp Hippo,供给了当先的机能涌现,可能有用地处置大模子正在常识时效性低、输入本领有限、切实度低等题目。通过将最新材料、专业常识、部分习俗等海量新闻向量化存储正在星环科技分散式向量数据库 Transwarp Hippo 中,企业可能有用拓展大模子的操纵畛域,让大模子保留新闻及时性,并可能动态调节。
同时,星环科技可能为企业供给大模子操纵开辟全周期的技巧和产物,通过Transwarp Hippo向量数据库和大模子同一运营拘束平台Sophon LLMOps、金融大模子Transwarp Infinity“星环无涯”、大数据分解大模子Transwarp SoLar“求索”等产物组合,帮帮每个企业更速、更无误地打造真正相符本质需求的专属范围大模子,推进临盆力擢升,加快交易立异和代价告终。星环科技基于第五代英特尔®至强®可增添执掌器的散布式向量数据库处分计划重磅宣硬件告