Turing Jview Avengio奖的获胜者：预计人类规划和推理

从7月26日开始，今天在上海举行了AI 2025年世界大会。图灵奖的获奖者约书（Joshu Avengio）在近期计划和推理方面发表了关于前卫 - 加德（Garde）模特的演讲。如果这种趋势继续下去，则预计人类级别的计划和推理将在十年内达到人类水平。他从话语中得知，如果缺乏强大的保护，强大的AI系统可以扩大现有风险，例如错误信息，网络攻击和生物威胁。更令人担忧的是，人类可能会失去对个人辩护人的控制。自我原始人的认知能力可以“迅速克服人类”。 Beneguium认为，这种情况可能会发生，并且仍然有很大一部分科学界认为必须将其保持在最高级别的监视水平。 CurrentMind，没有科学验证的方法来确保AI可靠。更糟糕的是，欺骗和SE在最强大的模型中，LF - 保护器行为似乎更为明显。 Beneguium说：“这是一个真正的问题，因为情报意味着AI的情报水平继续提高。”合理的政策必须鼓励开发没有冒险能力的AI开源项目。同时，禁止在其他情况下发展，并为包括网络安全和身体安全在内的封闭代码模型采取了足够的安全措施，防止罪犯，恐怖分子或欺诈性国家轻松利用。