LLM端侧部署系列 | 手机上运行47B大模型?上交推理框架PowerInfer-2助力AI手机端侧部署
0. 引言 黄梅时节家家雨，青草池塘处处蛙。 有约不来过夜半，闲敲棋子落灯花。 当下，在移动设备上部署大型模型的趋势是愈演愈烈。Google推出了AI Core，使得Gemini Nano可以在智能手机上部署。此外，近期传闻苹果在iOS …
2024-08-16精选文章
爬虫案例3——爬取彩票双色球数据
简介：个人学习分享，如有错误，欢迎批评指正 任务：从500彩票网中爬取双色球数据 目标网页地址：https://datachart.500.com/ssq/ 一、思路和过程 目标网页具体内容如下： 我们的任务是将上图中…
安卓端侧大模型 MLC-LLM 部署全攻略：以 InternLM2.5-1.8B 为例
本文来自社区投稿，作者：Tim MLC-LLM 是一个机器学习编译器和高性能大型语言模型部署引擎。该项目的使命是让每个人都能在自己的平台上开发、优化和部署 AI 模型。InternLM 2.5 是上海人工智能实验室发布的新一代大规模语言模型，相比于之前的…
最新发布
C语言中整数类型及其类型转换
1.数据的存储和排列 是的，在C语言中，整数类型通常以补码（twos complement）形式存储在内存中。这是因为补码表示法在处理有符号整数的加减运算上更为简便和高效。 基本类型所占字节数： 大端方式存储 就相当于我们平时的…
2024-08-16Vue的常见指令
目录 1.v-bind 2. class绑定 3.style绑定 4.v-if/v-show 1.v-bind v-bind指令用于绑定属性 可以简写成 “ ：” 它的作用就是我们可以动态的定义属性的值，比如常见的<img src "1.jpg"> 我们如果想要修改图片就需要获取到DOM对象&am…
2024-08-16聊聊 C# dynamic 类型，并分享一个将 dynamic 类型变量转为其它类型的技巧和实例
前言 dynamic 是一种有别于传统变量类型的动态类型声明，刚开始接触可能在理解上会有些困难，可以简单地把它理解为一个盲盒，你可以任意猜测盒子有什么东西，并认为这些东西真正存在而进行处理，等到真正打开时࿰…
2024-08-16kvm-fuzz：使用KVM技术对闭源用户空间二进制文件执行模糊测试
关于kvm-fuzz kvm-fuzz是一款功能强大的模糊测试工具，该工具能够利用KVM技术对闭源用户空间x86_64二进制文件执行模糊测试。 KVM介绍 虚拟化是云计算的基础，一种资源管理技术，是将计算机的各种实体资源（CPU、内存、磁盘空间、网…
2024-08-13【Vue】深入了解 v-for 指令：从基础到高级应用的全面指南
文章目录 一、v-for 指令概述二、v-for 指令的基本用法1. 遍历数组2. 遍历对象3. 使用索引 三、v-for 指令的高级用法1. 组件列表渲染2. 使用 key 提升性能3. 嵌套循环 四、结合其他功能的高级用法1. 处理过滤和排序后的结果2. 迭代数值范围3. 结合其他命令使用模板部分 (<t…
2024-08-13【昇思25天学习打卡营打卡指南-第十七天】基于MindNLP+MusicGen生成自己的个性化音乐
基于MindNLPMusicGen生成自己的个性化音乐 MusicGen是来自Meta AI的Jade Copet等人提出的基于单个语言模型（LM）的音乐生成模型，能够根据文本描述或音频提示生成高质量的音乐样本，相关研究成果参考论文《Simple and Controllable …
2024-08-13声音的转译者：Transformer模型在语音识别中的革命性应用
声音的转译者：Transformer模型在语音识别中的革命性应用 在人工智能领域，语音到文本转换（Speech-to-Text，STT）技术正迅速发展，成为连接人类语言与机器理解的桥梁。Transformer模型，以其卓越的处…
2024-08-13常用游戏开发软件横向对比
最近想试试开发游戏，简单查了一下，Mark吧。 排名不分先后： 1. Unity 特点： 跨平台支持：Unity支持超过25个平台，包括iOS、Android、Windows、macOS、Linux、WebGL、PlayStation、Xbox、Switch等。强大的…
2024-08-12数学建模--禁忌搜索
目录 算法基本原理 关键要素 应用实例 实现细节 python代码示例 总结 禁忌搜索算法在解决哪些具体类型的组合优化问题中最有效？ 禁忌搜索算法的邻域结构设计有哪些最佳实践或案例研究？ 如何动态更新禁忌表以提高禁忌搜索算法的效率和性能&#…
2024-08-12