大模型在边缘落地还差些什么？

大模型在边缘落地还差些什么？

随着大模型开启行业赋能进程，其在边缘/侧端的大规模部署便成为进一步发展的重中之重。然而，在边缘/侧端部署固然更加有利于大模型实现即时响应和隐私保护，同时也将面临算力碎片化、能效问题、落地场景等方面的挑战。对从业企业来说，这既是难点也是机遇。行业应用需求带动，大模型向边缘侧发展当前，我国大模型产业正迎来飞速发展。统计显示，截至3月底国内发布的大模型数量已经达到117个。不过在发展过程中，与美国注重原创突破不同，中国的大模型企业更加强调应用落地。360集团创始人兼董事长周鸿祎在此前的演讲中就表示，卷模型、卷算力、卷数据...