¼Óº¸
VIP
ÅëÇÕ°Ë»ö

[´õº§]¹ÙÀ̺êÄÄÆÛ´Ï, sLLM ´ÙÀ½ ¹öÀü '¹ÙÀ̺êGeM 2' °ø°³

¸Ó´ÏÅõµ¥ÀÌ
  • ÀÌ¿ìÂù ±âÀÚ
  • Ä«Ä«¿ÀÅå °øÀ¯Çϱâ
  • Ä«Ä«¿ÀÅå ³ª¿¡°Ô Àü¼ÛÇϱâ
  • ÆäÀ̽ººÏ
  • Æ®À§ÅÍ
  • ³×À̹ö
  • ÅÚ·¹±×·¥
  • ¹®ÀÚ
  • 2024.05.14 09:19
  • ±ÛÀÚÅ©±âÁ¶Àý
´õº§'¸Ó´ÏÅõµ¥ÀÌ thebell'¿¡ Ãâ°íµÈ ±â»çÀÔ´Ï´Ù.

¹ÙÀ̺êÄÄÆÛ´Ï (4,770¿ø 0.00%)°¡ ÀÚü sLLM(ÃÊ°Å´ë¾ð¾î¸ðµ¨) ¹ÙÀ̺êGeMÀÇ ´ÙÀ½ ¹öÀüÀÎ »ý¼ºÇü AI ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨ '¹ÙÀ̺êGeM 2'¸¦ ¿ÀǼҽº·Î °ø°³Çß´Ù°í 14ÀÏ ¹àÇû´Ù.


¹ÙÀ̺êGeM 2´Â ÃÑ 2.5Á¶°³ÀÇ ÅäÅ«À» »çÀü ÇнÀÇÑ ÆĶó¹ÌÅÍ 14B(140¾ï °³)¸ðµ¨ÀÌ´Ù. ±âÁ¸ ¸ðµ¨ ´ëºñ ÇÑÃþ ¾÷±×·¹À̵åµÈ ¼º´ÉÀ» µå·¯³Â´Ù. ±âÁ¸ ¸ðµ¨¿¡¼­ ¡âÄÚµù ¡â¹ø¿ª ¡â¸ÖƼÅÏ(Multi-turn) ´ëÈ­±îÁö Ãß°¡·Î Áö¿øµÇ´Â °ÍÀÌ Æ¯Â¡ÀÌ´Ù. ¶Ç ÀÌÀüº¸´Ù ÀûÀº ¸Þ¸ð¸®¸¦ »ç¿ëÇØ ´õ¿í ´õ ºü¸¥ »ý¼ºÀÌ °¡´ÉÇØÁ³´Ù.

ƯÈ÷ Çѱ¹¾î ÀÛ¾÷ ¼º´É ¹Ì¼¼Á¶Á¤(Fine-tuning) ½ÇÇè °á°ú¿¡¼­ GPT 3.5º¸´Ù ³ôÀº ¼º´ÉÀ» º¸ÀÌ´Â °ÍÀ¸·Î ³ªÅ¸³µ´Ù.

¹ÙÀ̺ê´Â AI ÀÀ¿ë ½Ã °¡Àå ¸¹ÀÌ È°¿ëµÇ´Â ¡âOpen-book QA(¿ÀÇÂºÏ ÁúÀÇÀÀ´ä) ¡âClosed-book QA(Ŭ·ÎÁîµåºÏ ÁúÀÇÀÀ´ä) ¡âDoc. Summarization(¹®¼­ ¿ä¾à) ¡âTitle Generation(Á¦¸ñ »ý¼º) µî 4°¡Áö ÁÖ¿ä ÀÛ¾÷(Task)À» ±âÁØÀ¸·Î Å×½ºÆ®¸¦ ÁøÇàÇÑ °á°ú, ¸ÞŸÀÇ ¶ó¸¶2, ±¸±ÛÀÇ Áª¸¶, ¾÷½ºÅ×ÀÌÁöÀÇ ¼Ö¶ó µî ±âÁ¸ ¿ÀǼҽº·Î °ø°³µÈ sLLM Áß °¡Àå ¶Ù¾î³­ ¼º´ÉÀ» º¸¿´´Ù. ÇØ´ç Å×½ºÆ®´Â °¢ º£À̽º ¸ðµ¨¿¡ µ¿ÀÏÇÑ µ¥ÀÌÅ͸¦ ±â¹ÝÀ¸·Î ¹Ì¼¼Á¶Á¤À» ½Ç½ÃÇÑ ÈÄ ÀÛ¾÷ º°·Î 100°³ÀÇ Å×½ºÆ® »ùÇÿ¡ ´ëÇØ »ý¼ºµÈ ´äº¯À» GPT 4¸¦ ÅëÇØ Æò°¡Çß´Ù.



Çѱ¹¾î ÀÛ¾÷ ¼º´É ¹Ì¼¼Á¶Á¤(Fine-tuning) ½ÇÇè °á°ú. Ãâó=¹ÙÀ̺ê



¹ÙÀ̺ê´Â ¹ÙÀ̺êGeM 2ÀÇ ´Ù¸¥ À̸§À¸·Î ¼±º¸ÀÎ '¶ó¹Ì¿Â(Llamion)'À» 'Open-Ko LLM ¸®´õº¸µå'¿¡µµ ¿ÀǼҽº·Î °ø°³ÇÏ¸ç ³ôÀº ¼º´ÉÀ» ÀÎÁ¤¹Þ¾Ò´Ù.

Open-Ko LLM ¸®´õº¸µå´Â Çѱ¹Áö´ÉÁ¤º¸»çȸÁøÈï¿ø°ú Çã±ëÆäÀ̽º°¡ ÇÔ²² ¿î¿µ ÁßÀÎ Çѱ¹Çü LLM Æò°¡ Ç÷§ÆûÀÌ´Ù. ¸î °¡Áö Ç׸ñÀ» ±âÁØÀ¸·Î Çѱ¹¾î LLM ¸ðµ¨ Æò°¡°¡ °¡´ÉÇÏ´Ù. ƯÈ÷ ±×Áß¿¡¼­µµ »ý¼ºÇü AI ±â¼ú°ú ¹ÐÁ¢ÇÑ »ó°ü°ü°è°¡ ÀÖ´Â °ÍÀ¸·Î °£ÁֵǴ 'Ko-MMLU(´ë±Ô¸ð ´ÙÁßÀÛ¾÷ ¾ð¾îÀÌÇØ·Â)' ºÎºÐ¿¡¼­´Â ¹ÙÀ̺êGeM 2°¡ ¾ÐµµÀûÀÎ 1À§¸¦ Â÷ÁöÇß´Ù.

¹ÙÀ̺êGeMÀº ¹ÙÀ̺갡 20³â ÀÌ»ó ÃàÀûÇÑ NLP(ÀÚ¿¬¾îó¸®) ±â¼úÀ» Åä´ë·Î Áö³­ÇØ °ø°³ÇÑ ÀÚü sLLMÀÌ´Ù. À̸¦ ±â¹ÝÀ¸·Î ÇÑ ´Ù¾çÇÑ AI ±â¹Ý ¼Ö·ç¼Ç ¹× ¼­ºñ½ºµéÀ» Ãâ½ÃÇÏ°í ÃÊ°Å´ë AI °ø±Þ»ç¾÷Àڷεµ ¼±Á¤µÅ ±¹¹Î±ÇÀÍÀ§¿øȸ, Á¶´Þû, °ü¼¼Ã», °í¿ë³ëµ¿ºÎ, Ãæ³²µµÃ» µî ¸¹Àº °ø°ø±â°ü¿¡ ¼º°øÀûÀÎ PoC(±â¼ú°ËÁõ)¸¦ ÁøÇàÇÑ ¹Ù ÀÖ´Ù.

¶Ç ¹ÙÀ̺ê´Â ÃÖ±Ù °úÇбâ¼úÁ¤º¸Åë½ÅºÎ·ÎºÎÅÍ »ý¼ºÇü AI ¼±µµÀÎÀç¾ç¼º »ç¾÷ÀÇ ÁÖ°ü ±â°üÀ¸·Î ¼±Á¤µÇ¸ç AI ÀÎÀç ¾ç¼º¿¡µµ ¾ÕÀå¼­°í ÀÖ´Ù. À̹ø ¹ÙÀ̺êGeM 2 °ø°³·Î Çѱ¹ÀÇ »ý¼º AI °æÀï·ÂÀ» °­È­ÇÏ°í °ü·Ã »ýÅ°踦 Á¶¼ºÇÏ´Â µ¥ Å©°Ô ±â¿©ÇÒ Àü¸ÁÀÌ´Ù.

¹ÙÀ̺êÀÇ ±è¼º¾ð ´ëÇ¥´Â "sLLMÀ» µµÀÔÇÏ°íÀÚ ÇÏ´Â ±â¾÷ ¶Ç´Â ±â°üµé¿¡°Ô ¹ÙÀ̺êGeM 2´Â ÃÖ°íÀÇ ¼±ÅÃÀÌ µÉ °Í"À̶ó¸ç "¿ÃÇØ ¾È¿¡ ´õ °íµµÈ­µÈ ¹ÙÀ̺êGeM 2.5¿Í ¹ÙÀ̺êGeM 3À» ½ÃÀå¿¡ ¼±º¸ÀÌ°í Áö¼ÓÀûÀ¸·Î ¼­ºñ½º¿Í ¼Ö·ç¼Ç¿¡ ¹Ý¿µÇØ ³ª°¥ °Í"À̶ó°í ¸»Çß´Ù.



¸Ó´ÏÅõµ¥ÀÌ ÁÖ¿ä´º½º

'-40% ±Þ¶ô'Àº ±âȸ?¡¦"5000¾ï ´õ »ç" ¼­Çа³¹Ì À§ÇèÇÑ º£ÆÃ
³×À̹ö ¸ÞÀο¡¼­ ¸Ó´ÏÅõµ¥ÀÌ ±¸µ¶ ´ÙÀ½ ¾ð·Ð»ç Ȩ¿¡¼­ ¸Ó´ÏÅõµ¥ÀÌ ±¸µ¶

º£½ºÆ®Å¬¸¯

¿À´ÃÀÇ ²ÜÆÁ

  • ´º½º ¼Ó ¿À´Ã
  • ´õ¿µ»ó
  • ³¯¾¾´Â?
  • ÇコÅõµ¥ÀÌ

¸¹ÀÌ º» ´º½º

Ç®¹ÎÁö

Æ÷Åä / ¿µ»ó