热搜词:

DeepMind:LLM是贪婪的agent;MIT打造机器学习版「元素周期表」|今日热门论文

閫熻�鐑�棬璁烘枃

1.Meta锛氬埄鐢ㄨ嚜鍥炲綊妯″瀷鐢熸垚楂樺垎杈ㄧ巼鍥惧儚

2.DeepMind锛歀LM 鏄�椽濠�殑 agent

3.MIT 鎵撻€犳満鍣ㄥ�涔犵増銆屽厓绱犲懆鏈熻〃銆�

4.瀛楄妭鎺ㄥ嚭楂樹繚鐪熴€屼汉鑴稿彉鎹㈡ā鍨嬨€岲reamID

1.Meta锛氬埄鐢ㄨ嚜鍥炲綊妯″瀷鐢熸垚楂樺垎杈ㄧ巼鍥惧儚

鑷�洖褰掞紙AR锛夋ā鍨嬪湪璇�█鐢熸垚棰嗗煙闀挎湡鍗犳嵁涓诲�鍦颁綅锛岃繎骞存潵涔熼€愭�鎵╁睍鑷冲浘鍍忓悎鎴愪换鍔°€備絾鐩歌緝浜庢墿鏁fā鍨嬶紝AR 妯″瀷閫氬父琚��涓哄湪鐢熸垚璐ㄩ噺鍜屾晥鐜囨柟闈㈠瓨鍦ㄥ姡鍔匡紝涓昏�鍘熷洜鍦ㄤ簬鍏堕渶澶勭悊澶ч噺鍥惧儚 token锛屽�鑷磋�缁冨拰鎺ㄧ悊鎴愭湰楂橈紝涓旈檺鍒朵簡鐢熸垚鍒嗚鲸鐜囥€�

涓轰簡瑙e喅杩欎釜闂��锛孧eta 鍥㈤槦鎻愬嚭浜嗕竴绉嶆柊棰栥€佺畝鍗曠殑鏂规硶Token-Shuffle锛屾棬鍦ㄥ噺灏� Transformer 涓�殑鍥惧儚 token 鏁伴噺銆傝�鏂规硶鐨勬牳蹇冨熀浜庡�澶氭ā鎬佸ぇ璇�█妯″瀷锛圡LLM锛変腑瑙嗚�璇嶆眹缁村害鍐椾綑鐨勮�瀵燂細鍗宠�瑙夌紪鐮佸櫒鐢熸垚鐨勪綆缁磋�瑙夌壒寰佸彲鐩存帴鏄犲皠鍒伴珮缁磋�瑷€璇嶆眹绌洪棿銆傚埄鐢ㄨ繖涓€鐐癸紝浠栦滑鑰冭檻浜嗕袱涓�叧閿�搷浣滐細

token-shuffle锛氬湪杈撳叆闃舵�娌块€氶亾缁村害鍚堝苟绌洪棿灞€閮� token锛屼粠鑰屾樉钁楅檷浣庤緭鍏� token 鏁伴噺锛�

token-unshuffle锛氬湪 Transformer 妯″潡鍚庡�棰勬祴 token 杩涜�杩樺師锛屾仮澶嶅叾绌洪棿缁撴瀯浠ョ敓鎴愭渶缁堝浘鍍忋€�

璇ユ柟娉曟敮鎸佷笌鏂囨湰鎻愮ず鑱斿悎璁�粌锛屾棤闇€棰濆�棰勮�缁冩枃鏈�紪鐮佸櫒锛屽氨鍙�互鍦ㄤ繚鎸侀珮鏁堣�缁冧笌鎺ㄧ悊鐨勫悓鏃讹紝瀹炵幇缁熶竴鐨勨€滀笅涓€涓� token 棰勬祴鈥濆紡楂樺垎杈ㄧ巼鍥惧儚鐢熸垚銆�

浠栦滑棣栨�灏嗚嚜鍥炲綊鏂囨湰鍒板浘鍍忕敓鎴愮殑鍒嗚鲸鐜囨彁楂樺埌浜�2048x2048锛屽苟鍙栧緱浜嗕护浜烘弧鎰忕殑鐢熸垚鎬ц兘銆傚湪 GenAI 鍩哄噯娴嬭瘯涓�紝2.7B 妯″瀷鍦ㄩ珮闅惧害鏂囨湰鎻愮ず涓婅幏寰椾簡 0.77 鐨勬€诲垎锛屾瘮鑷�洖褰掓ā鍨� LlamaGen 楂� 0.18锛屾瘮鎵╂暎妯″瀷 LDM 楂� 0.15銆傚ぇ瑙勬ā浜哄伐璇勪及缁撴灉浜﹁〃鏄庯紝鍏跺湪鏂囨湰瀵归綈銆佸浘鍍忚川閲忎笌瑙嗚�琛ㄧ幇鏂归潰鍏锋湁鏄捐憲浼樺娍銆�

鐮旂┒鍥㈤槦琛ㄧず锛孴oken-Shuffle 鏈夋湜鎴愪负 MLLM 鏋舵瀯涓�珮鏁堛€侀珮鍒嗚鲸鐜囧浘鍍忕敓鎴愮殑涓€椤归€氱敤璁捐�銆�

璁烘枃閾炬帴锛歨ttps://arxiv.org/abs/2504.17789

2.DeepMind锛歀LM 鏄�椽濠�殑 agent

澶ц�瑷€妯″瀷锛圠LM锛夊埄鐢ㄥ父璇嗗拰鎬濈淮閾撅紙CoT锛夋帹鐞嗭紝鍙�互鏈夋晥鍦版帰绱㈠拰楂樻晥鍦拌В鍐冲�鏉傞�鍩熺殑闂��銆傜劧鑰岋紝浜轰滑鍙戠幇 LLM agent 瀛樺湪娆′紭鎺㈢储鍜屸€滅煡琛屽樊璺濃€濓紝鏃犳硶鏍规嵁妯″瀷涓�殑鐭ヨ瘑鏈夋晥鍦伴噰鍙栬�鍔ㄣ€�

鍦ㄨ繖椤瑰伐浣滀腑锛孏oogle DeepMind 鍥㈤槦绯荤粺鍦扮爺绌朵簡 LLM 鍦ㄥ喅绛栧満鏅�腑琛ㄧ幇娆′紭鐨勫師鍥犮€傜壒鍒�槸锛屼粬浠�粩缁嗙爺绌朵簡3 绉嶆櫘閬嶅瓨鍦ㄧ殑澶辫触妯″紡锛氳椽濠�€侀�鐜囧亸宸�拰鐭ヨ�宸�窛銆備粬浠�缓璁�€氳繃瀵硅嚜鐢熸垚鐨� CoT 鎺ㄧ悊渚濇嵁杩涜�寮哄寲瀛︿範寰�皟鏉ョ紦瑙h繖浜涚己闄枫€�

浠栦滑鍦ㄥ�鑷傝€佽檸鏈恒€佹儏澧冨紡鑰佽檸鏈哄拰浜曞瓧妫嬩腑杩涜�鐨勫疄楠岃〃鏄庯紝寮哄寲瀛︿範寰�皟閫氳繃澧炲姞鎺㈢储鍜岀缉灏忕煡琛屽樊璺濓紝鎻愰珮浜� LLM 鐨勫喅绛栬兘鍔涖€�

鏈€鍚庯紝浠栦滑鐮旂┒浜嗕紶缁熺殑鎺㈢储鏈哄埗锛堝� 系-greedy锛夊拰 LLM 鐗规湁鐨勬柟娉曪紙濡傝嚜鎴戞牎姝e拰鑷�竴鑷存€э級锛屼互渚垮湪鍐崇瓥涓�� LLM 杩涜�鏇存湁鏁堢殑寰�皟銆�

璁烘枃閾炬帴锛歨ttps://arxiv.org/abs/2504.16078

3.MIT 鎵撻€犳満鍣ㄥ�涔犵増銆屽厓绱犲懆鏈熻〃銆�

闅忕潃琛ㄥ緛瀛︿範棰嗗煙鐨勫彂灞曪紝鍑虹幇浜嗗ぇ閲忎笉鍚岀殑鎹熷け鍑芥暟鏉ヨВ鍐充笉鍚岀被鍒�殑闂��銆�

鍦ㄨ繖椤瑰伐浣滀腑锛屾潵鑷� MIT銆佽胺姝屽拰寰�蒋鐨勭爺绌跺洟闃熸彁鍑轰簡涓€涓�崟涓€鐨勪俊鎭��鏂圭▼锛屽畠姒傛嫭浜嗘満鍣ㄥ�涔犱腑澶ч噺鐨勭幇浠f崯澶卞嚱鏁般€傜壒鍒�槸锛屼粬浠�彁鍑虹殑妗嗘灦琛ㄦ槑锛屽嚑澶х被鏈哄櫒瀛︿範鏂规硶閮藉湪绮剧‘鍦版渶灏忓寲涓や釜鏉′欢鍒嗗竷锛堢洃鐫h〃寰佸拰瀛︿範琛ㄥ緛锛変箣闂寸殑缁煎悎 KL 鍙戞暎銆傝繖涓€瑙傜偣鎻�ず浜嗚仛绫汇€佽氨鏂规硶銆侀檷缁淬€佸�姣斿�涔犲拰鐩戠潱瀛︿範鑳屽悗闅愯棌鐨勪俊鎭�嚑浣曘€�

閫氳繃缁撳悎浠ュ線鍏朵粬鎶€鏈�紝杩欎竴妗嗘灦寮€鍙戝嚭浜嗘柊鐨勬崯澶卞嚱鏁般€備粬浠�笉浠呮彁鍑轰簡涓€绯诲垪璇佹槑锛屽皢瓒呰繃 23 绉嶄笉鍚岀殑鏂规硶鑱旂郴鍦ㄤ竴璧凤紝鑰屼笖杩樺埄鐢ㄨ繖浜涚悊璁烘垚鏋滃垱寤轰簡 SOTA 鏃犵洃鐫e浘鍍忓垎绫诲櫒锛屽湪 ImageNet-1K 涓婄殑鏃犵洃鐫e垎绫绘柟闈㈡瘮涔嬪墠鐨� SOTA 鏂规硶鎻愰珮浜� 8%銆�

浠栦滑杩樿瘉鏄庯紝I-Con 鍙�互鐢ㄤ簬鎺ㄥ�鏈夊師鍒欑殑鍘诲亸锛坉ebiasing锛夋柟娉曪紝浠庤€屾敼杩涘�姣旇〃绀哄�涔犳柟娉曘€�

璁烘枃閾炬帴锛歨ttps://arxiv.org/abs/2504.16929

4.瀛楄妭鎺ㄥ嚭楂樹繚鐪熴€屼汉鑴稿彉鎹㈡ā鍨嬨€岲reamID

鍦ㄨ繖椤瑰伐浣滀腑锛屽瓧鑺傚洟闃熸彁鍑轰簡鍩轰簬鎵╂暎鐨勪汉鑴稿彉鎹㈡ā鍨� DreamID锛屽畠鑳藉�瀹炵幇楂樻按骞崇殑 ID 鐩镐技鎬с€佸睘鎬т繚鐣欍€佸浘鍍忎繚鐪熷拰蹇�€熸帹鐞嗐€�

鍏稿瀷鐨勪汉鑴稿彉鎹㈣�缁冭繃绋嬮€氬父渚濊禆浜庨殣寮忕洃鐫o紝寰堥毦鍙栧緱浠や汉婊℃剰鐨勭粨鏋滐紝涓庝箣涓嶅悓锛孌reamID 閫氳繃鏋勫缓涓夐噸韬�唤缁勬暟鎹�紝涓轰汉鑴镐氦鎹㈠缓绔嬩簡鏄惧紡鐩戠潱锛屽ぇ澶ф彁楂樹簡韬�唤鐩镐技鎬у拰灞炴€т繚鎸佹€с€�

鎵╂暎妯″瀷鐨勮凯浠g壒鎬т负鍒╃敤楂樻晥鐨勫浘鍍忕┖闂存崯澶卞嚱鏁板甫鏉ヤ簡鎸戞垬锛屽洜涓哄湪璁�粌杩囩▼涓�墽琛岃€楁椂鐨勫�姝ラ噰鏍蜂互鑾峰彇鐢熸垚鐨勫浘鍍忔槸涓嶅垏瀹為檯鐨勩€備负姝わ紝浠栦滑鍒╃敤鍔犻€熸墿鏁fā鍨� SD Turbo锛屽皢鎺ㄧ悊姝ラ�鍑忓皯鍒板崟娆¤凯浠o紝瀹炵幇浜嗛珮鏁堢殑鍍忕礌绾х�鍒扮�璁�粌锛屽苟鍏锋湁鏄庣‘鐨勪笁閲� ID 缁勭洃鐫c€�

姝ゅ�锛屼粬浠�繕鎻愬嚭浜嗕竴绉嶆敼杩涚殑鍩轰簬鎵╂暎鐨勬ā鍨嬫灦鏋勶紝鍖呮嫭 SwapNet銆丗aceNet 鍜� ID Adapter銆傝繖绉嶉瞾妫掔殑鏋舵瀯鍏呭垎閲婃斁浜嗕笁閲� ID 缁勬樉寮忕洃鐫g殑鑳藉姏銆�

鏈€鍚庯紝涓轰簡杩涗竴姝ユ墿灞曡繖涓€鏂规硶锛屼粬浠�湪璁�粌杩囩▼涓�慨鏀逛簡涓夐噸 ID 缁勬暟鎹�紝浠ュ井璋冨拰淇濈暀鐗瑰畾灞炴€э紝濡傜溂闀滃拰鑴稿瀷銆�

骞挎硾鐨勫疄楠岃瘉鏄庯紝DreamID 鍦ㄨ韩浠界浉浼兼€с€佸Э鍔垮拰琛ㄦ儏淇濇寔浠ュ強鍥惧儚淇濈湡搴︽柟闈㈠疄鐜颁簡 SOTA銆�

璁烘枃閾炬帴锛歨ttps://arxiv.org/abs/2504.14509

鏁寸悊锛氬�鏈�悰

濡傞渶杞�浇鎴栨姇绋匡紝璇风洿鎺ュ湪鍏�紬鍙峰唴鐣欒█