sllm:推出 GPU 节点分租服务,以“无限 Token”模式降低大模型推理成本
近日,一款名为 sllm 的云端服务在 Hacker News 上引发了关注。该平台旨在解决高性能 GPU 获取门槛高的问题,允许开发者与其他人通过“拼单”方式共享一个 GPU 节点。用户只需支付固定的月费(10美元至40美元不等),即可获...
标签索引 / 第 2 页
这个标签下有 80 篇文章。按时间回看相关判断与实践记录。
标签精选
近日,一款名为 sllm 的云端服务在 Hacker News 上引发了关注。该平台旨在解决高性能 GPU 获取门槛高的问题,允许开发者与其他人通过“拼单”方式共享一个 GPU 节点。用户只需支付固定的月费(10美元至40美元不等),即可获...
本文由前微软 Azure Core 团队资深工程师撰写,揭示了微软内部一系列被称为“本世纪最愚蠢且代价最高”的决策失误。作为曾参与 Azure 核心网络加速及容器平台研发的关键人物,作者指出这些内部问题导致微软几乎失去了其最大客户 Open...
针对AWS本地开发工具LocalStack近期将核心服务转为付费模式的现状,开源社区推出了全新替代品MiniStack。这是一款完全免费且基于MIT协议的轻量级模拟器,能够提供包括S3、Lambda在内的33种AWS服务。MiniStack...
专为基础设施与云资源管理打造的 AI 原生终端 Chaterm 即将发布 1.0 版本。该工具突破传统命令行限制,允许工程师通过自然语言进行服务部署与故障排查。核心功能涵盖 SSH 资产集中管理、多云资产同步、K8s 集群管理及 SFTP ...
全球最大的代码托管平台 GitHub 近期遭遇了严重的可用性危机。在2月9日当天,其核心服务包括 Actions、Pull 请求及通知系统均出现中断,导致通知延迟一度高达50分钟,耗时约4小时才完全恢复。与此同时,备受瞩目的 AI 编程助手...
一位科技爱好者分享了一项有趣的实验,展示了如何利用 AI 工具辅助修改训练代码,并借助 Oracle Cloud 的免费云端算力资源(7*24小时运行),构建了一个自动化的 2048 游戏 AI 训练流程。该模型经过高达 1800 万轮的持...
本指南详细拆解了在甲骨文云(OCI)上申请并部署“Always Free”云主机的完整流程。内容涵盖账户注册、基于 Ampere Arm 架构的实例规格选择(如 VM.Standard.E2.1.Micro)、网络配置、SSH 密钥认证设置...
据ProPublica调查报道,尽管联邦网络安全评估人员将微软的GCC High政府云服务形容为“一堆垃圾”,并指出其缺乏关键的安全文档和加密细节,FedRAMP项目仍于2024年底批准了该服务。调查发现,微软长达五年未能提供充分的安全证据...
2025 年初,亚马逊 AWS、腾讯云、阿里云、百度智能云等七家国内外云厂商接连宣布上调 AI 算力及大模型服务价格,部分产品涨幅最高超 400%。这一集体行动打破了云计算行业“只降不涨”的传统,标志着市场从“价格战”全面转向“供需定价”。...
本文介绍了一项极具创意的技术实验,试图突破 GitHub Actions 的传统用途。作者将其作为平台即服务的核心控制平面,利用 GitHub 的基础设施来管理 PaaS 的部署与状态。这种方式不仅简化了运维流程,还展示了如何将 CI/CD...