´õº§'¸Ó´ÏÅõµ¥ÀÌ thebell'¿¡ Ãâ°íµÈ ±â»çÀÔ´Ï´Ù.
¹ÙÀ̺êÄÄÆÛ´Ï (4,770¿ø 0.00%)°¡ ÀÚü sLLM(ÃÊ°Å´ë¾ð¾î¸ðµ¨) ¹ÙÀ̺êGeMÀÇ ´ÙÀ½ ¹öÀüÀÎ »ý¼ºÇü AI ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨ '¹ÙÀ̺êGeM 2'¸¦ ¿ÀǼҽº·Î °ø°³Çß´Ù°í 14ÀÏ ¹àÇû´Ù.
¹ÙÀ̺êGeM 2´Â ÃÑ 2.5Á¶°³ÀÇ ÅäÅ«À» »çÀü ÇнÀÇÑ ÆĶó¹ÌÅÍ 14B(140¾ï °³)¸ðµ¨ÀÌ´Ù. ±âÁ¸ ¸ðµ¨ ´ëºñ ÇÑÃþ ¾÷±×·¹À̵åµÈ ¼º´ÉÀ» µå·¯³Â´Ù. ±âÁ¸ ¸ðµ¨¿¡¼ ¡âÄÚµù ¡â¹ø¿ª ¡â¸ÖƼÅÏ(Multi-turn) ´ëȱîÁö Ãß°¡·Î Áö¿øµÇ´Â °ÍÀÌ Æ¯Â¡ÀÌ´Ù. ¶Ç ÀÌÀüº¸´Ù ÀûÀº ¸Þ¸ð¸®¸¦ »ç¿ëÇØ ´õ¿í ´õ ºü¸¥ »ý¼ºÀÌ °¡´ÉÇØÁ³´Ù.
ƯÈ÷ Çѱ¹¾î ÀÛ¾÷ ¼º´É ¹Ì¼¼Á¶Á¤(Fine-tuning) ½ÇÇè °á°ú¿¡¼ GPT 3.5º¸´Ù ³ôÀº ¼º´ÉÀ» º¸ÀÌ´Â °ÍÀ¸·Î ³ªÅ¸³µ´Ù.
¹ÙÀ̺ê´Â AI ÀÀ¿ë ½Ã °¡Àå ¸¹ÀÌ È°¿ëµÇ´Â ¡âOpen-book QA(¿ÀÇÂºÏ ÁúÀÇÀÀ´ä) ¡âClosed-book QA(Ŭ·ÎÁîµåºÏ ÁúÀÇÀÀ´ä) ¡âDoc. Summarization(¹®¼ ¿ä¾à) ¡âTitle Generation(Á¦¸ñ »ý¼º) µî 4°¡Áö ÁÖ¿ä ÀÛ¾÷(Task)À» ±âÁØÀ¸·Î Å×½ºÆ®¸¦ ÁøÇàÇÑ °á°ú, ¸ÞŸÀÇ ¶ó¸¶2, ±¸±ÛÀÇ Áª¸¶, ¾÷½ºÅ×ÀÌÁöÀÇ ¼Ö¶ó µî ±âÁ¸ ¿ÀǼҽº·Î °ø°³µÈ sLLM Áß °¡Àå ¶Ù¾î³ ¼º´ÉÀ» º¸¿´´Ù. ÇØ´ç Å×½ºÆ®´Â °¢ º£À̽º ¸ðµ¨¿¡ µ¿ÀÏÇÑ µ¥ÀÌÅ͸¦ ±â¹ÝÀ¸·Î ¹Ì¼¼Á¶Á¤À» ½Ç½ÃÇÑ ÈÄ ÀÛ¾÷ º°·Î 100°³ÀÇ Å×½ºÆ® »ùÇÿ¡ ´ëÇØ »ý¼ºµÈ ´äº¯À» GPT 4¸¦ ÅëÇØ Æò°¡Çß´Ù.
Çѱ¹¾î ÀÛ¾÷ ¼º´É ¹Ì¼¼Á¶Á¤(Fine-tuning) ½ÇÇè °á°ú. Ãâó=¹ÙÀ̺ê
¹ÙÀ̺ê´Â ¹ÙÀ̺êGeM 2ÀÇ ´Ù¸¥ À̸§À¸·Î ¼±º¸ÀÎ '¶ó¹Ì¿Â(Llamion)'À» 'Open-Ko LLM ¸®´õº¸µå'¿¡µµ ¿ÀǼҽº·Î °ø°³ÇÏ¸ç ³ôÀº ¼º´ÉÀ» ÀÎÁ¤¹Þ¾Ò´Ù.
Open-Ko LLM ¸®´õº¸µå´Â Çѱ¹Áö´ÉÁ¤º¸»çȸÁøÈï¿ø°ú Çã±ëÆäÀ̽º°¡ ÇÔ²² ¿î¿µ ÁßÀÎ Çѱ¹Çü LLM Æò°¡ Ç÷§ÆûÀÌ´Ù. ¸î °¡Áö Ç׸ñÀ» ±âÁØÀ¸·Î Çѱ¹¾î LLM ¸ðµ¨ Æò°¡°¡ °¡´ÉÇÏ´Ù. ƯÈ÷ ±×Áß¿¡¼µµ »ý¼ºÇü AI ±â¼ú°ú ¹ÐÁ¢ÇÑ »ó°ü°ü°è°¡ ÀÖ´Â °ÍÀ¸·Î °£ÁֵǴ 'Ko-MMLU(´ë±Ô¸ð ´ÙÁßÀÛ¾÷ ¾ð¾îÀÌÇØ·Â)' ºÎºÐ¿¡¼´Â ¹ÙÀ̺êGeM 2°¡ ¾ÐµµÀûÀÎ 1À§¸¦ Â÷ÁöÇß´Ù.
¹ÙÀ̺êGeMÀº ¹ÙÀ̺갡 20³â ÀÌ»ó ÃàÀûÇÑ NLP(ÀÚ¿¬¾îó¸®) ±â¼úÀ» Åä´ë·Î Áö³ÇØ °ø°³ÇÑ ÀÚü sLLMÀÌ´Ù. À̸¦ ±â¹ÝÀ¸·Î ÇÑ ´Ù¾çÇÑ AI ±â¹Ý ¼Ö·ç¼Ç ¹× ¼ºñ½ºµéÀ» Ãâ½ÃÇÏ°í ÃÊ°Å´ë AI °ø±Þ»ç¾÷Àڷεµ ¼±Á¤µÅ ±¹¹Î±ÇÀÍÀ§¿øȸ, Á¶´Þû, °ü¼¼Ã», °í¿ë³ëµ¿ºÎ, Ãæ³²µµÃ» µî ¸¹Àº °ø°ø±â°ü¿¡ ¼º°øÀûÀÎ PoC(±â¼ú°ËÁõ)¸¦ ÁøÇàÇÑ ¹Ù ÀÖ´Ù.
¶Ç ¹ÙÀ̺ê´Â ÃÖ±Ù °úÇбâ¼úÁ¤º¸Åë½ÅºÎ·ÎºÎÅÍ »ý¼ºÇü AI ¼±µµÀÎÀç¾ç¼º »ç¾÷ÀÇ ÁÖ°ü ±â°üÀ¸·Î ¼±Á¤µÇ¸ç AI ÀÎÀç ¾ç¼º¿¡µµ ¾ÕÀå¼°í ÀÖ´Ù. À̹ø ¹ÙÀ̺êGeM 2 °ø°³·Î Çѱ¹ÀÇ »ý¼º AI °æÀï·ÂÀ» °ÈÇÏ°í °ü·Ã »ýÅ°踦 Á¶¼ºÇÏ´Â µ¥ Å©°Ô ±â¿©ÇÒ Àü¸ÁÀÌ´Ù.
¹ÙÀ̺êÀÇ ±è¼º¾ð ´ëÇ¥´Â "sLLMÀ» µµÀÔÇÏ°íÀÚ ÇÏ´Â ±â¾÷ ¶Ç´Â ±â°üµé¿¡°Ô ¹ÙÀ̺êGeM 2´Â ÃÖ°íÀÇ ¼±ÅÃÀÌ µÉ °Í"À̶ó¸ç "¿ÃÇØ ¾È¿¡ ´õ °íµµÈµÈ ¹ÙÀ̺êGeM 2.5¿Í ¹ÙÀ̺êGeM 3À» ½ÃÀå¿¡ ¼±º¸ÀÌ°í Áö¼ÓÀûÀ¸·Î ¼ºñ½º¿Í ¼Ö·ç¼Ç¿¡ ¹Ý¿µÇØ ³ª°¥ °Í"À̶ó°í ¸»Çß´Ù.
- 2024.05.14 09:19
<ÀúÀÛ±ÇÀÚ © ¡®µ·ÀÌ º¸ÀÌ´Â ¸®¾óŸÀÓ ´º½º¡¯ ¸Ó´ÏÅõµ¥ÀÌ. ¹«´ÜÀüÀç ¹× Àç¹èÆ÷, AIÇнÀ ÀÌ¿ë ±ÝÁö>
|
¸Ó´ÏÅõµ¥ÀÌ ÁÖ¿ä´º½º
'-40% ±Þ¶ô'Àº ±âȸ?¡¦"5000¾ï ´õ »ç" ¼Çа³¹Ì À§ÇèÇÑ º£ÆÃ- Áý »ì ¶§ 'ÀÌ ¿äû' µé¾îÁá´Ù°¡¡¦¼¼±ÝÆøź ¸Â¾Ò´Ù
- ³Ä¡º´ ¾ÎÀº ÈÄ ¾òÀº ±³ÈÆ¡¦ÇÒ¸®¿ìµå ½ºÅ¸°¡ 2Á¶¿ø´ë CEO µÈ ÀÌÀ¯ [¿ùµåÄÜ]
- ¹ã µÇ¸é µ¹º¯, ITȸ»ç °³¹ßÀÚÀÇ µÎ ¾ó±¼¡¦¹Ì±¹µµ ÂÑ´ø '±×³ð' Àâ¾Ò´Ù[º£Å׶û]
- Á¤ºÎ, 25³â ¸¸¿¡ »ó¼Ó¼¼ ´ë¼ö¼ú ³ª¼¹Áö¸¸ ±ÞÁ¦µ¿ °Ç å¯, ÀÌÀ¯´Â¡¤¡¤¡¤
- SKÇÏÀ̴нº ¸ÅÃâ 4¹è Å°¿ï ÀÌ°Í, K-¸Þ¸ð¸® À̲ô´Â 'Á¦2ÀÇ HBM'
- ¾ö¸¶¡¤¾Æºü¿¡°Ô ¹ö·ÁÁø 15»ì ¾ÆÀÌ, 120km °È°Ô Çß´õ´Ï¡¦[³²±âÀÚÀÇ Ã¼Ç渮Áò]