´õº§'¸Ó´ÏÅõµ¥ÀÌ thebell'¿¡ Ãâ°íµÈ ±â»çÀÔ´Ï´Ù.
¹ÙÀ̺êÄÄÆÛ´Ï (4,200¿ø ¡å30 -0.71%)°¡ ÀÚü sLLM(ÃÊ°Å´ë¾ð¾î¸ðµ¨) ¹ÙÀ̺êGeMÀÇ ´ÙÀ½ ¹öÀüÀÎ »ý¼ºÇü AI ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨ '¹ÙÀ̺êGeM 2'¸¦ ¿ÀǼҽº·Î °ø°³Çß´Ù°í 14ÀÏ ¹àÇû´Ù.
¹ÙÀ̺êGeM 2´Â ÃÑ 2.5Á¶°³ÀÇ ÅäÅ«À» »çÀü ÇнÀÇÑ ÆĶó¹ÌÅÍ 14B(140¾ï °³)¸ðµ¨ÀÌ´Ù. ±âÁ¸ ¸ðµ¨ ´ëºñ ÇÑÃþ ¾÷±×·¹À̵åµÈ ¼º´ÉÀ» µå·¯³Â´Ù. ±âÁ¸ ¸ðµ¨¿¡¼ ¡âÄÚµù ¡â¹ø¿ª ¡â¸ÖƼÅÏ(Multi-turn) ´ëȱîÁö Ãß°¡·Î Áö¿øµÇ´Â °ÍÀÌ Æ¯Â¡ÀÌ´Ù. ¶Ç ÀÌÀüº¸´Ù ÀûÀº ¸Þ¸ð¸®¸¦ »ç¿ëÇØ ´õ¿í ´õ ºü¸¥ »ý¼ºÀÌ °¡´ÉÇØÁ³´Ù.
ƯÈ÷ Çѱ¹¾î ÀÛ¾÷ ¼º´É ¹Ì¼¼Á¶Á¤(Fine-tuning) ½ÇÇè °á°ú¿¡¼ GPT 3.5º¸´Ù ³ôÀº ¼º´ÉÀ» º¸ÀÌ´Â °ÍÀ¸·Î ³ªÅ¸³µ´Ù.
¹ÙÀ̺ê´Â AI ÀÀ¿ë ½Ã °¡Àå ¸¹ÀÌ È°¿ëµÇ´Â ¡âOpen-book QA(¿ÀÇÂºÏ ÁúÀÇÀÀ´ä) ¡âClosed-book QA(Ŭ·ÎÁîµåºÏ ÁúÀÇÀÀ´ä) ¡âDoc. Summarization(¹®¼ ¿ä¾à) ¡âTitle Generation(Á¦¸ñ »ý¼º) µî 4°¡Áö ÁÖ¿ä ÀÛ¾÷(Task)À» ±âÁØÀ¸·Î Å×½ºÆ®¸¦ ÁøÇàÇÑ °á°ú, ¸ÞŸÀÇ ¶ó¸¶2, ±¸±ÛÀÇ Áª¸¶, ¾÷½ºÅ×ÀÌÁöÀÇ ¼Ö¶ó µî ±âÁ¸ ¿ÀǼҽº·Î °ø°³µÈ sLLM Áß °¡Àå ¶Ù¾î³ ¼º´ÉÀ» º¸¿´´Ù. ÇØ´ç Å×½ºÆ®´Â °¢ º£À̽º ¸ðµ¨¿¡ µ¿ÀÏÇÑ µ¥ÀÌÅ͸¦ ±â¹ÝÀ¸·Î ¹Ì¼¼Á¶Á¤À» ½Ç½ÃÇÑ ÈÄ ÀÛ¾÷ º°·Î 100°³ÀÇ Å×½ºÆ® »ùÇÿ¡ ´ëÇØ »ý¼ºµÈ ´äº¯À» GPT 4¸¦ ÅëÇØ Æò°¡Çß´Ù.
Çѱ¹¾î ÀÛ¾÷ ¼º´É ¹Ì¼¼Á¶Á¤(Fine-tuning) ½ÇÇè °á°ú. Ãâó=¹ÙÀ̺ê
¹ÙÀ̺ê´Â ¹ÙÀ̺êGeM 2ÀÇ ´Ù¸¥ À̸§À¸·Î ¼±º¸ÀÎ '¶ó¹Ì¿Â(Llamion)'À» 'Open-Ko LLM ¸®´õº¸µå'¿¡µµ ¿ÀǼҽº·Î °ø°³ÇÏ¸ç ³ôÀº ¼º´ÉÀ» ÀÎÁ¤¹Þ¾Ò´Ù.
Open-Ko LLM ¸®´õº¸µå´Â Çѱ¹Áö´ÉÁ¤º¸»çȸÁøÈï¿ø°ú Çã±ëÆäÀ̽º°¡ ÇÔ²² ¿î¿µ ÁßÀÎ Çѱ¹Çü LLM Æò°¡ Ç÷§ÆûÀÌ´Ù. ¸î °¡Áö Ç׸ñÀ» ±âÁØÀ¸·Î Çѱ¹¾î LLM ¸ðµ¨ Æò°¡°¡ °¡´ÉÇÏ´Ù. ƯÈ÷ ±×Áß¿¡¼µµ »ý¼ºÇü AI ±â¼ú°ú ¹ÐÁ¢ÇÑ »ó°ü°ü°è°¡ ÀÖ´Â °ÍÀ¸·Î °£ÁֵǴ 'Ko-MMLU(´ë±Ô¸ð ´ÙÁßÀÛ¾÷ ¾ð¾îÀÌÇØ·Â)' ºÎºÐ¿¡¼´Â ¹ÙÀ̺êGeM 2°¡ ¾ÐµµÀûÀÎ 1À§¸¦ Â÷ÁöÇß´Ù.
¹ÙÀ̺êGeMÀº ¹ÙÀ̺갡 20³â ÀÌ»ó ÃàÀûÇÑ NLP(ÀÚ¿¬¾îó¸®) ±â¼úÀ» Åä´ë·Î Áö³ÇØ °ø°³ÇÑ ÀÚü sLLMÀÌ´Ù. À̸¦ ±â¹ÝÀ¸·Î ÇÑ ´Ù¾çÇÑ AI ±â¹Ý ¼Ö·ç¼Ç ¹× ¼ºñ½ºµéÀ» Ãâ½ÃÇÏ°í ÃÊ°Å´ë AI °ø±Þ»ç¾÷Àڷεµ ¼±Á¤µÅ ±¹¹Î±ÇÀÍÀ§¿øȸ, Á¶´Þû, °ü¼¼Ã», °í¿ë³ëµ¿ºÎ, Ãæ³²µµÃ» µî ¸¹Àº °ø°ø±â°ü¿¡ ¼º°øÀûÀÎ PoC(±â¼ú°ËÁõ)¸¦ ÁøÇàÇÑ ¹Ù ÀÖ´Ù.
¶Ç ¹ÙÀ̺ê´Â ÃÖ±Ù °úÇбâ¼úÁ¤º¸Åë½ÅºÎ·ÎºÎÅÍ »ý¼ºÇü AI ¼±µµÀÎÀç¾ç¼º »ç¾÷ÀÇ ÁÖ°ü ±â°üÀ¸·Î ¼±Á¤µÇ¸ç AI ÀÎÀç ¾ç¼º¿¡µµ ¾ÕÀå¼°í ÀÖ´Ù. À̹ø ¹ÙÀ̺êGeM 2 °ø°³·Î Çѱ¹ÀÇ »ý¼º AI °æÀï·ÂÀ» °ÈÇÏ°í °ü·Ã »ýÅ°踦 Á¶¼ºÇÏ´Â µ¥ Å©°Ô ±â¿©ÇÒ Àü¸ÁÀÌ´Ù.
¹ÙÀ̺êÀÇ ±è¼º¾ð ´ëÇ¥´Â "sLLMÀ» µµÀÔÇÏ°íÀÚ ÇÏ´Â ±â¾÷ ¶Ç´Â ±â°üµé¿¡°Ô ¹ÙÀ̺êGeM 2´Â ÃÖ°íÀÇ ¼±ÅÃÀÌ µÉ °Í"À̶ó¸ç "¿ÃÇØ ¾È¿¡ ´õ °íµµÈµÈ ¹ÙÀ̺êGeM 2.5¿Í ¹ÙÀ̺êGeM 3À» ½ÃÀå¿¡ ¼±º¸ÀÌ°í Áö¼ÓÀûÀ¸·Î ¼ºñ½º¿Í ¼Ö·ç¼Ç¿¡ ¹Ý¿µÇØ ³ª°¥ °Í"À̶ó°í ¸»Çß´Ù.
- 2024.05.14 09:19
<ÀúÀÛ±ÇÀÚ © ¡®µ·ÀÌ º¸ÀÌ´Â ¸®¾óŸÀÓ ´º½º¡¯ ¸Ó´ÏÅõµ¥ÀÌ. ¹«´ÜÀüÀç ¹× Àç¹èÆ÷, AIÇнÀ ÀÌ¿ë ±ÝÁö>
|
¸Ó´ÏÅõµ¥ÀÌ ÁÖ¿ä´º½º
"¿©º¸, ¿ì¸®µµ ¸·Â÷ ŸÀÚ" ¿µ²ø ¸ô¸®ÀÚ¡¦¼¿ï Áý°ª ´Ù ¿Ã¶ú´Ù- "¹ö´Â µ· 0¿ø, ¹Þ´Â ¿¬±Ýµµ 0¿ø" ÀÌ·± ÀÏ »ý±æ¶ó¡¦'65¼¼ Á¤³â½Ã´ë' ¿À³ª
- ȯÀÚ ÇÇ ½ñ´Âµ¥ »ç¶óÁø Àǻ硦¼öÇ÷µµ ¾øÀÌ ¹æÄ¡, °á±¹ ¼ûÁø ´ëÇлý[´º½º¼Ó¿À´Ã]
- Á¤ºÎ "ÀÇ´ë Áõ¿ø À¯¿¹ ¾Æ³Ä...ÀÇ·á°è ÀÇ°ß ¾È³»¸é Àç³íÀÇ ¸øÇØ"
- ¼¼°è Á¶¼± 3ºÐÀÇ 2À¦Áß±¹, ÇÕº´À¸·Î ¸öÁý ´õ Å°¿î´Ù[Â÷À̳ª´Â Áß±¹]
- "Ç׺¹" ¹«¸ ²Ý°í µÎ ¼Õµµ µé¾ú´Âµ¥¡¦·¯±º, ¿ìÅ©¶ó±º 'ÃÑ»ì'
- Èçµé¸®´Â '¹ÝµµÃ¼ ¿Õ±¹' ÀÎÅÚ¡¦»ï¼ºÀüÀÚ, ³² ÀÏ ¾Æ´Ï´Ù