¹®Á¦¸¦ ÇØ°áÇϱâ À§Çؼ´Â ´õ ºü¸£°í Àü·ÂÈ¿À²ÀÌ ÁÁÀº ¹ÝµµÃ¼°¡ ÇÊ¿äÇÏ´Ù. AI¸¦ À½½Ä¿¡, ¹ÝµµÃ¼¸¦ ±×¸©¿¡ ºñÀ¯ÇÏÀÚ¸é À½½ÄÀÌ ¸¹¾ÆÁø ¸¸Å Å« ±×¸©À» ÁغñÇØ¾ß ÇÏ´Â °ÍÀÌ´Ù. ±×·¯³ª ¹ÝµµÃ¼ ¹ßÀü ¼Óµµ´Â AIÀÇ ¹ßÀü ¼Óµµ¿¡ ºñÇØ »ó´ëÀûÀ¸·Î ´õµð°í °¡°Ýµµ ºñ½Î´Ù. ÀÌ¿¡ AI¸ðµ¨À» È¿À²ÈÇÏ´Â 'AI ¸ðµ¨ °æ·®È(Model Compression¡¤)' ±â¼úÀÌ ÁÖ¸ñ¹Þ´Â´Ù. À½½Ä Å©±â¿¡ ¸Â´Â ±×¸©ÀÌ °³¹ßµÉ ¶§±îÁö ÀÏ´Ü À½½ÄÀ» Àß°Ô ºÎ¼ö°Å³ª ²Ú²Ú ´·¯ ³ÑÄ¡Áö ¾Ê°Ô ¸¸µå´Â ¹æ½ÄÀÌ´Ù. À̸¦ ÅëÇØ »õ·Î¿î ¹ÝµµÃ¼ ±¸¸Å ºñ¿ëÀ» Àý°¨½ÃÄÑÁÖ°í, °°Àº ¹ÝµµÃ¼ ȯ°æ¿¡¼ ´õ ¼º´É ÁÁÀº AI ¸ðµ¨À» »ç¿ëÇÒ ¼ö ÀÖ°Ô Áö¿øÇÑ´Ù.
¾÷°è¿¡¼ ÁÖ·Î »ç¿ëÇÏ´Â AI ¸ðµ¨ °æ·®È ±â¹ýÀº ÁÖ·Î '°¡ÁöÄ¡±â(Pruning)'¿Í '¾çÀÚÈ(Quantization)' ¹æ½ÄÀÌ´Ù. °¡ÁöÄ¡±â´Â ÁÖ·Î »ç¿ëµÇ´Â ¿¬»ê¿¡¼ Áß¿äÇÏÁö ¾ÊÀº ¸Å°³º¯¼ö¸¦ ã¾Æ Á¦°ÅÇÏ´Â ¹æ½ÄÀ¸·Î AI ¸ðµ¨À» °æ·®ÈÇÑ´Ù. ¾çÀÚÈ´Â ÀÏÁ¾ÀÇ ¹Ý¿Ã¸²Ã³·³ ¸Å°³º¯¼öÀÇ ºñÆ®¸¦ ¹Ù²ã µ¥ÀÌÅÍ Ã³¸® ¹æ½ÄÀ» °æ·®ÈÇÏ´Â ±â¹ýÀÌ´Ù. ±×¹Û¿¡ ¼·Î ´Ù¸¥ AI ¸ðµ¨ÀÇ µ¥ÀÌÅ͸¦ È¿°úÀûÀ¸·Î Àü´ÞÇÏ´Â 'Áö½Ä Áõ·ù(knowledge distillation)'³ª '°æ·® ³×Æ®¿öÅ© µðÀÚÀÎ' µî ±â¹ýµµ »ç¿ëµÈ´Ù.
±â¹ýÀº ´Ù¾çÇÏÁö¸¸ È¿°ú´Â ¡âÀúÀü·Â ¡â°í¼ÓÈ·Î µ¿ÀÏÇÏ´Ù. ¾÷°è °ü°èÀÚ´Â "AI ¸ðµ¨ÀÇ Á¾·ù³ª ¿ëµµ, È°¿ë ºÐ¾ß¿¡ µû¶ó °¢°¢ ÀûÇÕÇÑ °æ·®È ±â¹ýÀÌ ´Ù¸£´Ù"¸ç "ÇÊ¿ä¿¡ ¸ÂÃç ´Ù¾çÇÑ °æ·®È ±â¹ýÀÌ »ç¿ëµÈ´Ù"°í ¸»Çß´Ù. ±×·¯¸é¼ "°æ·®È¸¦ ÇÒ¼ö·Ï ÀúÀü·Â¡¤°í¼ÓÈ°¡ °¡´ÉÇÏÁö¸¸ ¿¬»ê Á¤¹Ðµµ´Â ³·¾ÆÁú ¼ö ÀÖ´Â ¸¸Å, °í°´ÀÇ »óȲ¿¡ ¸ÂÃç °æ·®È¸¦ ÁøÇàÇÏ´Â °ÍÀÌ ÇÙ½É"À̶ó°í ¸»Çß´Ù.
¿ÀÇÂAI, ±¸±Û, ³×À̹ö µî AI¸¦ °³¹ßÇÏ´Â ±Û·Î¹ú ºòÅ×Å© ±â¾÷µéÀº ÀÌ¹Ì °æ·®È ±â¼ú °³¹ß¿¡ ÁýÁßÇÏ°í ÀÖ´Ù. ÃÖ±Ù¿¡´Â AI ¸ðµ¨À» Àü¹®ÀûÀ¸·Î °æ·®ÈÇØÁÖ´Â ¼Ö·ç¼Ç ½ºÅ¸Æ®¾÷µéµµ µîÀåÇß´Ù. ³×À̹ö, Ä«Ä«¿À, »ï¼ºÀüÀÚ µî ´ë±â¾÷µéÀÇ ±â¾÷Çü º¥Ã³Ä³ÇÇÅ»(CVC)µéÀº ÀÏÂġ ±â¼ú·Â°ú ¼ºÀå ÀáÀç·ÂÀ» º¸°í À̵鿡°Ô ¹¶Ä©µ·À» ÅõÀÚÇß´Ù.
°¡ÁöÄ¡±â¿Í ¾çÀÚÈÀÇ °³°ýÀû ¿ø¸® /»çÁø=¿£ºñµð¾Æ, ÅÙ¼ÇÃ·Î¿ì ±â¼úºí·Î±× |
³ëŸ´Â ´Ù¾çÇÑ µð¹ÙÀ̽º(±â±â)ÀÇ AI ¸ðµ¨À» °æ·®ÈÇØÁÙ ¼ö ÀÖ´Ù´Â Á¡À» °Á¡À¸·Î ³»¼¼¿î´Ù. ä¸í¼ö ³ëŸ ´ëÇ¥´Â "°æ·®È ±â¼úÀº AI ¸ðµ¨À» Àû¿ëÇÒ ±â±â°¡ ¼¹öÀÎÁö, ½º¸¶Æ®ÆùÀÎÁö, ÀÚÀ²ÁÖÇàÂ÷ÀÎÁö, ȤÀº ¾î¶² »ç¾çÀÎÁö¿¡ µû¶ó ´Ù¸£°Ô Àû¿ëÇØ¾ß ÇÑ´Ù"¸ç "³ëŸ´Â ´Ù¾çÇÑ Çϵå¿þ¾î¿¡¼ ÃÖÀûÈµÈ °æ·®È¸¦ Á¦°øÇÑ´Ù"°í Çß´Ù. ³ëŸ´Â °í°´¿¡ µû¶ó ¾çÀÚÈ¿Í °¡ÁöÄ¡±â ¹æ½ÄÀ» ¸ðµÎ »ç¿ëÇÑ´Ù.
³ëŸÀÇ ±â¼ú·ÂÀº ±Û·Î¹ú ½ÃÀå¿¡¼µµ ÀÎÁ¤¹Þ°í ÀÖ´Ù. ±Û·Î¹ú ½ÃÀåÁ¶»ç±â°ü CBÀλçÀÌÆ®´Â Áö³ÇØ LLMOps(ÃÊ°Å´ë¾ð¾î AI ¸ðµ¨¿î¿µ) ºÐ¾ß ¼±µÎ±â¾÷ Á¶»ç¿¡¼ ³ëŸ¸¦ 'AI ÃÖÀûÈ' ºÎ¹® ´ëÇ¥±â¾÷ 4°÷ Áß 1°÷À¸·Î ¼±Á¤Çß´Ù. 2022³âºÎÅÍ 3³â ¿¬¼Ó ¿£ºñµð¾ÆÀÇ °³¹ßÀÚ ÄÁÆÛ·±½º GTC ¹ßÇ¥±â¾÷À¸·Î ¼±Á¤µÇ±âµµ Çß´Ù.
½ºÄûÁîºñÃ÷ÀÇ °æ·®È ¼Ö·ç¼ÇÀº '¾çÀÚÈ' ¹æ½Ä¿¡ ÁýÁßÇÏ°í ÀÖ´Â °ÍÀÌ Æ¯Â¡ÀÌ´Ù. ±èÇüÁØ ½ºÄûÁîºñÃ÷ ´ëÇ¥´Â "±â¾÷µé¸¶´Ù ÁýÁßÇÏ°í ÀÖ´Â ¼¼ºÎ ±â¼úÀÌ Á¶±Ý¾¿ ´Ù¸£´Ù"¸ç "½ºÄûÁîºñÃ÷´Â ¾çÀÚÈ·Î ´õ È¿À²ÀûÀÎ °æ·®È°¡ °¡´ÉÇÑ ºÐ¾ß¿¡¼ °Á¡À» °¡Áö°í ÀÖ´Ù"°í ¸»Çß´Ù.
½ºÄûÁîºñÃ÷ÀÇ ±â¼ú·Âµµ »ó´çÇÏ´Ù´Â Æò°¡´Ù. ½ºÄûÁîºñÃ÷´Â Æ÷½ºÅØ NPU ¿¬±¸ÆÀÀÌ ÁÖÃàÀÌ µÅ ¼³¸³ÇÑ ½ºÅ¸Æ®¾÷ÀÌ´Ù. â¾÷ÀÚµéÀÌ ¸Ó½Å·¯´× ºÐ¾ß ÇÐȸ¿¡¼ ¹ßÇ¥ÇÑ °æ·®È °ü·Ã ³í¹®¸¸ 70¿©Æí¿¡ ´ÞÇÑ´Ù. ±èÀçÁØ ¼¿ï´ëÇб³ Àü±â¡¤Á¤º¸°øÇкΠ±³¼ö, ¹ÚÀºÇõ Æ÷½ºÅØ ÄÄÇ»ÅÍ°øÇаú ±³¼ö µî ±¹³»¿Ü¿¡¼ ÀÎÁ¤¹Þ´Â ±³¼öÁøµé°úµµ Çù¾÷ÇÏ°í ÀÖ´Ù.
±¹³» ´ëÇ¥ÀûÀÎ AI °æ·®È ½ºÅ¸Æ®¾÷/±×·¡ÇÈ=Á¶¼ö¾Æ |
µÎ ±â¾÷¿¡ ÅõÀÚÇÑ CVCµéÀº SI(Àü·«Àû ÅõÀÚ)¼º°ÝÀÇ ÅõÀÚ´Â ¾Æ´Ï¶ó¸é¼µµ ¸ð±â¾÷°úÀÇ Çù¾÷ °¡´É¼ºÀº ¿·Á ÀÖ´Ù°í Çß´Ù. ½ÇÁ¦ ÇØ¿Ü¿¡¼´Â °æ·®È ¼Ö·ç¼Ç ½ºÅ¸Æ®¾÷ÀÎ ¿È´ÏMLÀÌ Ã¢¾÷ 2³â¸¸¿¡ ¿£ºñµð¾Æ¿¡ ÀμöµÇ´Â µî ºòÅ×Å© ±â¾÷°úÀÇ Àû±ØÀûÀÎ Çù¾÷ÀÌ ÀÌ·ïÁö°í ÀÖ´Ù.
ÅõÀÚ¾÷°è¿¡ µû¸£¸é AI¸ðµ¨ °æ·®È ±â¼ú¿¡ ÇÑÁ¤Çؼ´Â ½ÃÀåÁ¶»ç±â°ü¿¡¼µµ ¾ÆÁ÷ °ø½ÄÀûÀ¸·Î ½ÃÀåÀ» Áý°èÇÏÁö ¾Ê¾Ò´Ù. ´Ù¸¸ »ý¼ºAI°¡ È®»êµÇ°í ½ÃÀåÀÌ Ä¿Áú¼ö·Ï °æ·®È ½ÃÀåµµ Ä¿Áú ¼ö¹Û¿¡ ¾ø´Ù´Â °Ô ÅõÀÚÀÚµéÀÇ ÆÇ´ÜÀÌ´Ù. ÇØ¿Ü¿¡¼µµ ´º·²¸ÅÁ÷, ¿ÀÅäAI(OctoAI), µ¥¾¾ÀÌAI(DeciAI) µî ½ºÅ¸Æ®¾÷µéÀÌ °¡Æĸ£°Ô ¼ºÀåÇÏ°í ÀÖ´Ù.
ƯÈ÷ ÃÖ±Ù ºÒ°í ÀÖ´Â ¿Âµð¹ÙÀ̽ºAI ¿Ç³µµ °æ·®È ½ºÅ¸Æ®¾÷ÀÌ ÁÖ¸ñ¹Þ´Â ÀÌÀ¯´Ù. ¿Âµð¹ÙÀ̽ºAI´Â ´õ ³·Àº Çϵå¿þ¾î ½ºÆÑ, Àü·Â ȯ°æ¿¡¼ ÀÛµ¿µÇ´Â ¸¸Å À̸¦ °¢Á¾ µð¹ÙÀ̽º¿¡¼ Á¦´ë·Î ±¸µ¿½ÃÅ°±â À§Çؼ´Â ´Ù¾çÇÑ °æ·®È ±â¼ú µµÀÔÀÌ ÇʼöÀûÀ̱⠶§¹®ÀÌ´Ù.
ÅõÀÚ¾÷°è °ü°èÀÚ´Â "AI ¸ðµ¨Àº ±Ô¸ð°¡ Ä¿Áú ¼ö·Ï ¼º´ÉÀÌ ÁÁ´Ù´Â °Ô °ËÁõµÈ ¸íÁ¦"¶ó¸ç "´õ Å« AI ¸ðµ¨À» È¿À²ÀûÀÌ°í Àú·ÅÇÏ°Ô »ç¿ëÇÒ ¼ö ÀÖ°Ô ÇØÁÖ´Â ±â¼ú°ú ½ÃÀåÀº Áö¼ÓÀûÀ¸·Î ¼ºÀåÇÒ ¼ö¹Û¿¡ ¾øÀ» °Í"À̶ó°í ¸»Çß´Ù.
[¸Ó´ÏÅõµ¥ÀÌ ½ºÅ¸Æ®¾÷ ¹Ìµð¾î Ç÷§Æû À¯´ÏÄÜÆÑÅ丮]