拼多多解散了在应用中加入恶意功能的团队
2023-04-03 12:54:00 by 2061太空漫游
拼多多在第三方应用商店发行的版本中加入了提权等恶意功能，被曝光之后遭到 Google 的封杀。安全专家表示，他们从未看到过一个主流应用会像拼多多那样做。匿名拼多多员工称，公司在 2020 年组建了一支由大约 100 名工程师和产品经理组成的团队，致力于挖掘 Android 手机漏洞，开发漏洞利用方法，将其转化为利润。
消息源称，拼多多应用的恶意功能最初只针对农村和小城镇的用户，避开北京上海之类大都市的用户，此举旨在降低被暴露的风险。通过收集用户活动的大量数据，拼多多能全面了解用户习惯、兴趣和偏好，改进其机器学习模型，提供更具有个性化的推送通知和广告，吸引用户打开应用并下单。在被曝光之后该团队于三月初被解散。拼多多是在 3 月 5 日释出 v6.50.0 更新移除了漏洞利用代码。匿名员工称，两天之后开发漏洞利用的团队遭到解散。第三天团队成员发现他们被内部使用的工作通讯应用 Knock 锁定，失去了访问内网文件的权限。工程师访问大数据、数据表和日志系统的权限也被撤销。大部分团队成员被转移到了 Temu，被分配到不同部门，从事营销或开发推送通知的工作。20 名核心的网络安全工程师仍然留在公司。安全专家称，虽然漏洞利用代码移除了，但底层代码仍然留在那里，仍然可以被重新激活去执行攻击。
https://edition.cnn.com/2023/04/02/tech/china-pinduoduo-malware-cybersecurity-analysis-intl-hnk/index.html
#安全
2023-04-03 12:54:00 by 2061太空漫游
拼多多在第三方应用商店发行的版本中加入了提权等恶意功能，被曝光之后遭到 Google 的封杀。安全专家表示，他们从未看到过一个主流应用会像拼多多那样做。匿名拼多多员工称，公司在 2020 年组建了一支由大约 100 名工程师和产品经理组成的团队，致力于挖掘 Android 手机漏洞，开发漏洞利用方法，将其转化为利润。
消息源称，拼多多应用的恶意功能最初只针对农村和小城镇的用户，避开北京上海之类大都市的用户，此举旨在降低被暴露的风险。通过收集用户活动的大量数据，拼多多能全面了解用户习惯、兴趣和偏好，改进其机器学习模型，提供更具有个性化的推送通知和广告，吸引用户打开应用并下单。在被曝光之后该团队于三月初被解散。拼多多是在 3 月 5 日释出 v6.50.0 更新移除了漏洞利用代码。匿名员工称，两天之后开发漏洞利用的团队遭到解散。第三天团队成员发现他们被内部使用的工作通讯应用 Knock 锁定，失去了访问内网文件的权限。工程师访问大数据、数据表和日志系统的权限也被撤销。大部分团队成员被转移到了 Temu，被分配到不同部门，从事营销或开发推送通知的工作。20 名核心的网络安全工程师仍然留在公司。安全专家称，虽然漏洞利用代码移除了，但底层代码仍然留在那里，仍然可以被重新激活去执行攻击。
https://edition.cnn.com/2023/04/02/tech/china-pinduoduo-malware-cybersecurity-analysis-intl-hnk/index.html
#安全
Cody : Sourcegraph 新开源的 AI 编程助手
继Github Copilot和Cursor之后，工程师们又多一个选择，而且还是开源。
- 解释代码
- 文档问答
- 调试和优化代码
- 帮写单侧
- 学习新语法
- 代码自然语言检索
详细介绍 安装文档 开源代码
以后投稿请注意不要使用镜像
🤖 投稿：@ZaiHuabot
📣 频道：@TestFlightCN
继Github Copilot和Cursor之后，工程师们又多一个选择，而且还是开源。
- 解释代码
- 文档问答
- 调试和优化代码
- 帮写单侧
- 学习新语法
- 代码自然语言检索
详细介绍 安装文档 开源代码
以后投稿请注意不要使用镜像
🤖 投稿：@ZaiHuabot
📣 频道：@TestFlightCN
OpenAI CEO Sam Altman 在与 MIT 研究科学家 Lex Fridman 长达 2 小时的对话中透露：
“从 ChatGPT 开始，AI 出现了推理能力。但没人能解读这种能力出现的原因。”
“马斯克在我心中是英雄，我支持也理解他的担忧。虽然他在推特上挺混蛋的，但希望马斯克能看到我们在解决 AGI 安全问题上付出了多大的努力。”
“GPT-4 是人类迄今所实现的最复杂的软件”
“GPT 在迭代过程中“偏见”必然存在，它不可能保持完全中立。”
而面对外界询问“GPT-4 是 AGI (通用人工智能)吗”这样的问题时，奥特曼则是直接给出了自己理解中的 AGI：
“AGI 所掌握的知识应该是要超过人类科学知识总和的，并且具有创造性，能够推动基础科学的发展；而目前所有 GPT 并不能做到这些，想要达到 AGI 还需要在目前 GPT 的范式上进行拓展，至于如何拓展，正是目前所缺乏的。”“也许 AGI 是永远抵达不了的乌托邦，但这个过程会让人类越来越强大。”
“我必须承认，（AI 杀死人类）有一定可能性。很多关于 AI 安全和挑战的预测被证明是错误的，我们必须正视这一点，并尽早尝试找到解决问题的方法。”(量子位)
🤖 投稿：@ZaiHuabot
📣 频道：@TestFlightCN
“从 ChatGPT 开始，AI 出现了推理能力。但没人能解读这种能力出现的原因。”
“马斯克在我心中是英雄，我支持也理解他的担忧。虽然他在推特上挺混蛋的，但希望马斯克能看到我们在解决 AGI 安全问题上付出了多大的努力。”
“GPT-4 是人类迄今所实现的最复杂的软件”
“GPT 在迭代过程中“偏见”必然存在，它不可能保持完全中立。”
而面对外界询问“GPT-4 是 AGI (通用人工智能)吗”这样的问题时，奥特曼则是直接给出了自己理解中的 AGI：
“AGI 所掌握的知识应该是要超过人类科学知识总和的，并且具有创造性，能够推动基础科学的发展；而目前所有 GPT 并不能做到这些，想要达到 AGI 还需要在目前 GPT 的范式上进行拓展，至于如何拓展，正是目前所缺乏的。”“也许 AGI 是永远抵达不了的乌托邦，但这个过程会让人类越来越强大。”
“我必须承认，（AI 杀死人类）有一定可能性。很多关于 AI 安全和挑战的预测被证明是错误的，我们必须正视这一点，并尽早尝试找到解决问题的方法。”(量子位)
🤖 投稿：@ZaiHuabot
📣 频道：@TestFlightCN
carrot 收集了众多免费好用的ChatGPT镜像站点
🏷 TAG #GitHub #AI
📢 Channel @opencfdchannel
👥 Group @open_source_community
🏷 TAG #GitHub #AI
📢 Channel @opencfdchannel
👥 Group @open_source_community
【官方双语】我的YouTube频道昨晚被删了#linus谈科技
https://www.bilibili.com/video/BV1VY4y1Q7LC
https://www.bilibili.com/video/BV1VY4y1Q7LC
OpenAI 推出 Plugin 功能
⚜️ 没有Plugin时
用户提问 -＞ ChatGPT 给出结果
⚜️ 有Plugin后就可以
用户提问-＞ ChatGPT -＞调用Plugin
⭐️ 开发者用Plugin实现各种功能，比如
1 ，实时搜索整合信息
(GPT语料截止为2021年9月)
2， 做一些计算
(计算手机今天玩了多久游戏)
3， 执行外部动作
(给你定酒店，发邮件)
🦆 快来排队: waitlist
用户提问 -＞ ChatGPT 给出结果
用户提问-＞ ChatGPT -＞调用Plugin
1 ，实时搜索整合信息
(GPT语料截止为2021年9月)
2， 做一些计算
(计算手机今天玩了多久游戏)
3， 执行外部动作
(给你定酒店，发邮件)
微软发布 GitHub Copilot X
- Copilot Chat ：
上下文感知的对话，帮你解释代码；修复bug；生成单元测试等
- Copilot PR:
合并请求自动生成建议的描述。
- Copilot CLI：
终端里直接自然语言对话，自动生成命令，多步骤的复杂任务也不在话下。
- Copilot 文档：
无需查找搜索文档，直接提问。
🦆 每一个都需要加入waitlist
- Copilot Chat ：
上下文感知的对话，帮你解释代码；修复bug；生成单元测试等
- Copilot PR:
合并请求自动生成建议的描述。
- Copilot CLI：
终端里直接自然语言对话，自动生成命令，多步骤的复杂任务也不在话下。
- Copilot 文档：
无需查找搜索文档，直接提问。
OpenAI 列出了不被 AI 影响的 34 大"铁饭碗"，告诉蓝领这些人你们是"安全的"。完全不受 LLM（大语言模型）影响的职业主要是体力劳动者。这恰恰与莫拉维克悖论非常一致，即能够可靠地实现多数体力劳动自动化的机器人技术还需要许多年。
最容易受到 LLM 影响的职业有：报税员、口译员和笔译员、调查研究人员、校对和抄写员、作家。
其中，暴露率 100% 的工作包括数学家、报税员、量化金融分析师、作家、网络和数字界面设计师。甚至还有区块链工程师。暴露率指的是访问 GPT，或 GPT 驱动的系统，是否会使人类执行一项任务所需的时间减少至少 50%。
论文指出，薪酬越高，被 LLM 自动化的机会越高。不过好消息是，那些需要科学和批判思维能力的工作暴露率较低。按工作区域划分，那些拥有学士学位或更高学位的人，比没有学士学位的人更容易接触到 GPT。(IT之家)(论文)
🤖 投稿：@ZaiHuabot
📣 频道：@TestFlightCN
以 BitTorrent 的方式在家用电脑上运行大语言模型
2023-03-21 13:51:00 by 魔法生活
OpenAI 的 AI 聊天机器人 ChatGPT 运行在微软的 Azure 云计算平台，普通用户即使能获得 ChatGPT 使用的大语言模型 GPT-3 或 GPT-4，也不可能在家用电脑上运行它们。如果人人都能运行一个分布式计算系统，联合起来打造一个在算力上能与最强大云计算平台匹敌的平台，那么我们有可能在自己的家用电脑上运行和使用类似
ChatGPT 的 AI 聊天机器人。BigScience 社区正在开发名为 Petal 的系统，以 BitTorrent 的方式在家用电脑上运行大语言模型。Petal 可以集成最新的大语言模型，当前支持性能与 GPT-3 相近的 BLOOM-176B 大语言模型。
https://petals.ml/
#人工智能
2023-03-21 13:51:00 by 魔法生活
OpenAI 的 AI 聊天机器人 ChatGPT 运行在微软的 Azure 云计算平台，普通用户即使能获得 ChatGPT 使用的大语言模型 GPT-3 或 GPT-4，也不可能在家用电脑上运行它们。如果人人都能运行一个分布式计算系统，联合起来打造一个在算力上能与最强大云计算平台匹敌的平台，那么我们有可能在自己的家用电脑上运行和使用类似
ChatGPT 的 AI 聊天机器人。BigScience 社区正在开发名为 Petal 的系统，以 BitTorrent 的方式在家用电脑上运行大语言模型。Petal 可以集成最新的大语言模型，当前支持性能与 GPT-3 相近的 BLOOM-176B 大语言模型。
https://petals.ml/
#人工智能
无需官方账号，免费用GPT-4
SteamShip 开放了 GPT-4 的模型接口，只需要注册SteamShip 账号，无需付费几行代码直接就能调用 GPT-4，返回时间比较慢，估计用的人太多了，而且本身 GPT-4 官方就很慢，不需要任何费用，也不需要有 OpenAI 账号
steamship.com
— 来源
SteamShip 开放了 GPT-4 的模型接口，只需要注册SteamShip 账号，无需付费几行代码直接就能调用 GPT-4，返回时间比较慢，估计用的人太多了，而且本身 GPT-4 官方就很慢，不需要任何费用，也不需要有 OpenAI 账号
steamship.com
— 来源
GPT-4论文竟有隐藏线索：GPT-5或完成训练、OpenAI两年内接近AGI
1. ARC(Alignment Research Center)是一个非营利性研究机构，其使命是使未来的机器学习系统与人类利益保持一致。ARC的目标是训练 AI 模型，使其不会操纵、欺骗甚至伤害人类）。OpenAI曾经选择让ARC去测试评估GPT-4会不会主动避免自己被“挂掉”，说明此前必定出现过这种情况。OpenAI CEO Sam Altman 认为人类需要对AI做更多的监管，以符合人类的利益。OpenAI 担忧科技竞赛会导致安全标准的下降、不良规范的扩散、AI发展进程的加速，加剧与人工智能相关的社会风险。但是微软 CEO 和 CTO 希望OpenAI的模型能尽快让用户用起来。可以肯定的一点是OpenAI和微软在这件事的想法是相悖的。OpenAI雇佣了预测专家，来预测当他们部署了GPT-4之后会带来怎样的风险。“超级预测员”建议将GPT-4部署时间推迟6个月，也就是今年秋季左右；但很显然，OpenAI并没有采纳他们的建议。OpenAI这么做的原因，可能是来自微软的压力。
2. OpenAI会协助超越它的公司：OpenAI做出了一个非常大胆的承诺：
3. GPT-4确实已经达到了人类的常识水平。博主在论文中找到了相关数据，在“人类”那一栏中，分数分布在了94-96.5之间。而GPT-4的95.3，便正好在这个区间之间。
4. OpenAI在去年年底推出ChatGPT的时候，已经有了GPT-4。GPT-5可能已经完成训练
5. 像ChatGPT、GitHub Copilot这些工具导致某些工作的自动化。GPT-4的能力可以在某些特定领域中以人类10倍甚至更高的效率来完成。
5. OpenAI让GPT-4学会拒绝的方法，叫做基于规则的奖励模型（RBRMs）。这种方法的工作流程：给GPT-4一组要遵守的原则，如果模型遵守了这些原则，那么就会提供相应的奖励。他认为OpenAI正在用人工智能的力量，让AI模型朝着符合人类原则的方向发展。(量子位)
参考链接：
[1] https://www.youtube.com/watch?v=ufQmq6X22rM
[2] https://cdn.openai.com/papers/gpt-4.pdf
🤖 投稿：@ZaiHuabot
📣 频道：@TestFlightCN
1. ARC(Alignment Research Center)是一个非营利性研究机构，其使命是使未来的机器学习系统与人类利益保持一致。ARC的目标是训练 AI 模型，使其不会操纵、欺骗甚至伤害人类）。OpenAI曾经选择让ARC去测试评估GPT-4会不会主动避免自己被“挂掉”，说明此前必定出现过这种情况。OpenAI CEO Sam Altman 认为人类需要对AI做更多的监管，以符合人类的利益。OpenAI 担忧科技竞赛会导致安全标准的下降、不良规范的扩散、AI发展进程的加速，加剧与人工智能相关的社会风险。但是微软 CEO 和 CTO 希望OpenAI的模型能尽快让用户用起来。可以肯定的一点是OpenAI和微软在这件事的想法是相悖的。OpenAI雇佣了预测专家，来预测当他们部署了GPT-4之后会带来怎样的风险。“超级预测员”建议将GPT-4部署时间推迟6个月，也就是今年秋季左右；但很显然，OpenAI并没有采纳他们的建议。OpenAI这么做的原因，可能是来自微软的压力。
2. OpenAI会协助超越它的公司：OpenAI做出了一个非常大胆的承诺：
"如果另一家公司在我们之前实现了接近AGI（通用人工智能），那我们承诺不会跟它做竞争，相反，会协助完成那个项目。但这种情况发生的条件，可能是另一家公司需得在未来两年内，成功接近AGI的机会在一半或以上"
3. GPT-4确实已经达到了人类的常识水平。博主在论文中找到了相关数据，在“人类”那一栏中，分数分布在了94-96.5之间。而GPT-4的95.3，便正好在这个区间之间。
4. OpenAI在去年年底推出ChatGPT的时候，已经有了GPT-4。GPT-5可能已经完成训练
5. 像ChatGPT、GitHub Copilot这些工具导致某些工作的自动化。GPT-4的能力可以在某些特定领域中以人类10倍甚至更高的效率来完成。
5. OpenAI让GPT-4学会拒绝的方法，叫做基于规则的奖励模型（RBRMs）。这种方法的工作流程：给GPT-4一组要遵守的原则，如果模型遵守了这些原则，那么就会提供相应的奖励。他认为OpenAI正在用人工智能的力量，让AI模型朝着符合人类原则的方向发展。(量子位)
参考链接：
[1] https://www.youtube.com/watch?v=ufQmq6X22rM
[2] https://cdn.openai.com/papers/gpt-4.pdf
🤖 投稿：@ZaiHuabot
📣 频道：@TestFlightCN
