(Áöµð³ÝÄÚ¸®¾Æ=³²Çõ¿ì ±âÀÚ)ÇöÀç Á¤ºÎ°¡ ÃßÁø ÁßÀÎ 'µ¶ÀÚÀû ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨(ÀÌÇÏ µ¶ÆÄ¸ð)' ¼±Á¤ °úÁ¤¿¡¼ ¿ÀǼҽº¸¦ Ȱ¿ëÇÑ ±â¾÷ µ¶ÀÚ ¸ðµ¨ ÀÎÁ¤¿©ºÎ¸¦ µÎ°í ÀâÀ½ÀÌ Àϰí ÀÖ´Ù. »ç¿ëÇÑ ¿ÀǼҽº°¡ ´õÀÌ»ó Áö¿øÇÏÁö ¾Ê°Å³ª ¶óÀ̼±½º¸¦ º¯°æÇÒ °æ¿ì µ¶ÀÚ ¸ðµ¨·Î¼ Á¸¸³ÇÏ±â ¾î·Æ´Ù´Â ÁöÀû ¶§¹®ÀÌ´Ù.
ÇÏÁö¸¸ Áö³ÇØ ÃÊ Áß±¹ ÀΰøÁö´É(AI) ½ºÅ¸Æ®¾÷ 'µö½ÃÅ©(DeepSeek)'°¡ ³»³õÀº AI ¸ðµ¨ R1°ú ºñ±³ÇÏ¸é »óȲÀÌ ¹¦ÇÏ´Ù. ÀûÀº ºñ¿ëÀ¸·Î ¹Ì±¹ ºòÅ×Å©µé°ú °ßÁÙ ¼ö ÀÖ´Â ¼º´ÉÀ» ³½ AI´Â ¿ÀǼҽº ¸ðµâÀ» Àû±ØÀûÀ¸·Î Â÷¿ëÇØ °³¹ßµÆÁö¸¸ ÀÚü AI¸ðµ¨·Î ÀÎÁ¤¹Þ°í ÀÖ´Ù.
¶È°°ÀÌ ¿ÜºÎ ±â¼úÀ»
¿À¸®Áö³Î¹Ù´ÙÀ̾߱⠺ô·Á ½è´Âµ¥ µö½ÃÅ©´Â µ¶ÀÚ ±â¼ú·Î ÁÖ¸ñ¹Þ°í ±¹³» ±â¾÷Àº ¹«´Ì¸¸ µ¶ÀÚ¶ó´Â ºñÆÇÀ» ¹Þ°í ÀÖ´Â ¼ÀÀÌ´Ù. ÀÌ¿¡ ´ëÇØ ¾÷°è Àü¹®°¡µéÀº ¾çÃøÀÇ °¡Àå Å« Â÷ÀÌ·Î ±â¾÷ÀÌ °¡Áø öÇаú À̸¦ ±¸ÇöÇÏ´Â Â÷º°È¸¦ ²Å¾Ò´Ù.?
µö½ÃÅ©ºÎÅÍ ±¸±Û±îÁö...¿ÀǼҽº Ȱ¿ëÇÏ´Â ±Û·Î¹ú AI
µö½Ã
¸±°ÔÀÓ¹æ¹ý Å©ÀÇ ±â¼ú º¸°í¼¿¡ µû¸£¸é R1À» ºñ·ÔÇÑ ¸ðµ¨ ¶óÀξ÷ °³¹ß °úÁ¤¿¡¼ ÁÖ¿ä ±â´É ±¸Çö¿¡ °æÀï»ç ¸ðµâÀÌ ´ë°Å »ç¿ëµÆ´Ù.
¸ÖƼ¸ð´Þ ¸ðµ¨Àº À̹ÌÁö¸¦ ÀνÄÇÏ´Â ºñÀü ÀÎÄÚ´õ·Î ±¸±Û¿¡¼ °³¹ßÇÑ ¸ðµ¨À» µµÀÔÇß´Ù. µö½ÃÅ©-VLÀº SigLIP-L, SAM-B¸¦ ÇÏÀ̺긮µå ºñÀü ÀÎÄÚ´õ·Î ½è°í ¾ß´º½º´Â SigLIP-LÀ» ºñÀü ÀÎÄÚ´õ·Î äÅÃÇß´Ù
¹Ù´ÙÀ̾߱⽽·Ô ´Ù¾çÇÑ AI ¸ðµ¨¿¡¼ »ç¿ë ÁßÀÎ SigLIP 2´Â ºñÀü-¾ð¾î ÀÎÄÚ´õ SigLIP(À̹ÌÁö=¾ÆÄ«À̺ê)
ÇнÀ °úÁ¤µµ ¸¶Âù°¡Áö´Ù. µö½ÃÅ©´Â ¸ðµ¨ ÇнÀ ¼Óµµ¸¦ ±ØÇÑÀ¸·Î ²ø¾î¿Ã¸®±â À§ÇØ °æÀï»çÀÎ ¿ÀÇÂAI°¡ °³¹ßÇØ °ø°³ÇÑ GPU ÇÁ·Î±×·¡¹Ö ¾ð¾î
¹Ù´ÙÀ̾߱⿹½Ã 'Æ®¶óÀÌÅæ(Triton)'À» Ãß·Ð ¹× Ä¿³Î ÃÖÀûÈ Äڵ忡¼ Ȱ¿ëÇß´Ù. ÇнÀ °¡¼ÓÀ» À§Çؼ´Â ½ºÅÄÆ÷µå ´ëÇÐ ¿¬±¸ÁøÀÌ °³¹ßÇÑ Ç÷¡½Ã ¾îÅÙ¼Ç ¸ðµâÀ» Â÷¿ëÇß´Ù.
ÀÌ·± ¸ðµâ Ȱ¿ëÀº µö½ÃÅ©¿¡ ±¹ÇѵÈ?À̾߱Ⱑ ¾Æ´Ï´Ù. ÇöÀç ¿ÀÇÂÇü LLM Ç¥ÁØÀ¸·Î ºÒ¸®´Â ¸ÞŸÀÇ ¶ó¸¶ ½Ã¸®Áî´Â ¹®¸Æ ¼ø¼¸¦ ÆÄ¾ÇÇÏ´Â À§Ä¡ ÀÓº£µù¿¡ Áß±¹ AI ±â¾÷ ÁêÀÌÀÌÅ×Å©³î·ÎÁö°¡ °³¹ßÇÑ
°ñµå¸ù¸±°ÔÀÓ¸±°ÔÀÓ È¸ÀüÀ§Ä¡ÀÓº£µù(RoPE) ¸ðµâÀ» »ç¿ëÇÑ´Ù.
Ȱ¼ºÈ ÇÔ¼ö ¿ª½Ã ±¸±ÛÀÌ Á¦¾ÈÇÑ 'SwiGLU' ¹æ½ÄÀ» äÅÃÇß´Ù. ±¸±Û Á¦¹Ì³ªÀÌ ¿ª½Ã ÇнÀ È¿À²À» À§ÇØ µö½Ãũó·³ ¿ÜºÎ¿¡¼ °³¹ßÇÑ Ç÷¡½Ã ¾îÅÙ¼Ç ±â¼úÀ» ³»ºÎ ÀÎÇÁ¶ó¿¡ ÅëÇÕÇØ »ç¿ë ÁßÀÌ´Ù.
ÀÓÁ¤È¯ ¸ðƼÇÁ ´ëÇ¥´Â "ÀÚµ¿Â÷¸¦ ¸¸µé ¶§ ŸÀ̾ ¿ÍÀÌÆÛ¸¦ Àü¹® ¾÷ü ºÎǰÀ¸·Î ½è´Ù°í ÇØ¼ ±× Â÷¸¦ µ¶ÀÚ °³¹ßÀÌ ¾Æ´Ï¶ó°í ÇÏÁö ¾Ê´Â´Ù"¸ç "ÀÎÄÚ´õ³ª °¡¼Ó ¶óÀ̺귯¸® °°Àº 'ºÎǰÀ» ¿ÜºÎ¿¡¼ °¡Á®¿À´Â ¹æÀº È¿À²¼ºÀ» À§ÇÑ ÇÕ¸®ÀûÀÎ ¼±ÅÃ"À̶ó°í ¼³¸íÇß´Ù.
°ÈÇнÀ¡¤MoE·Î È¿À² Çõ½Å...µö½ÃÅ©, ±â¼ú·Î Áõ¸íÇÑ µ¶ÀÚ °¡Ä¡
´Ù¾çÇÑ ¿ÀǼҽº¸¦ Ȱ¿ëÇßÀ½¿¡µµ µö½ÃÅ©°¡ µ¶ÀÚ ¸ðµ¨·Î Æò°¡¹Þ´Â ÀÌÀ¯´Â ±× µ¿¾È ¾ø¾ú´ø ±â¼úÀû ½Ãµµ¸¦ ÅëÇØ »õ·Î¿î °¡Ä¡¸¦ Áõ¸íÇ߱⠶§¹®ÀÌ´Ù.
´ç½Ã Áß±¹Àº ¹Ì±¹ ¹ÝµµÃ¼ Á¦Àç·Î ÀÎÇØ ÃֽŠ¿£ºñµð¾Æ GPU¸¦ ±¸Çϱ⠾î·Á¿î »óȲ¿¡ óÇß´Ù. µö½ÃÅ©´Â Á¦ÇÑµÈ ÀÎÇÁ¶ó ¾È¿¡¼ ¾î¶»°Ô ÇÏ¸é ¹Ì±¹ ºòÅ×Å©¿Í ´ëµîÇÑ ¼º´ÉÀ» ³¾ ¼ö ÀÖÀ»±î¶ó´Â °úÁ¦¸¦ ¾È°í ÀÖ¾ú´Ù.
À̸¦ ÇØ°áÇϱâ À§ÇØ µµÀÔÇÑ ¹æ¹ýÀÌ °ÈÇнÀÀ̾ú´Ù. ´ç½Ã ¾÷°è´Â °ÈÇнÀÀ» 꺿 ¸»Åõ¸¦ ±³Á¤ÇÏ´Â ¿ëµµ(RLHF)·Î Á¦ÇÑÇØ Ȱ¿ëÇß´Ù. Ãß·Ð ´É·ÂÀ» ³ôÀÌ´Â µ¥´Â È¿À²ÀÌ ¶³¾îÁø´Ù°í ¿©°Ü Àß ½ÃµµÇÏÁö ¾Ê¾Ò´Ù.
µö½ÃÅ©°¡ AI¼º´É Çâ»óÀ» À§ÇØ °³¼±ÇÑ MOE (À̹ÌÁö=¾ÆÄ«À̺ê)
ÇÏÁö¸¸ µö½ÃÅ©´Â "°ÈÇнÀÀ» ÅëÇØ AI°¡ ½º½º·Î »ý°¢ÇÏ´Â °úÁ¤À» ÈÆ·Ã½Ã۸é ÀûÀº µ¥ÀÌÅÍ¿Í ÆÄ¶ó¹ÌÅͷεµ Ãß·Ð ´É·ÂÀ» ±Ø´ëÈÇÒ ¼ö ÀÖ´Ù"´Â µ¶ÀÚÀûÀÎ °¡¼³À» ¼¼¿ü´Ù. ±×¸®°í À̸¦ ±â¼úÀûÀ¸·Î ±¸ÇöÇØ ³¿À¸·Î½á ´Ü¼øÈ÷ µ¥ÀÌÅ͸¦ ¸¹ÀÌ ½ñ¾Æº×´Â ¹æ½ÄÀÌ ¾Æ´Ñ »õ·Î¿î 'Áö´É Çâ»óÀÇ ±æ'À» ¿¾ú´Ù. ±âÁ¸ ¿ÀǼҽº ¸ðµ¨À» °¡Á®¿Í µ¥ÀÌÅ͸¸ ÁÖÀÔÇÏ´ø ¹æ½Ä°ú´Â Â÷¿øÀÌ ´Ù¸¥ Á¢±ÙÀ̾ú´Ù.
¶Ç ´Ù¸¥ Çõ½ÅÀº ¾ÆÅ°ÅØÃ³ È¿À²È¿¡ ÀÖ´Ù. À̵éÀÌ Ã¤ÅÃÇÑ 'Àü¹®°¡ È¥ÇÕ(MoE)' ¸ðµ¨Àº °Å´ë AI¸¦ °¢ ºÐ¾ß¿¡ ÃÖÀûÈµÈ ¿©·¯ °³ 'ÀÛÀº Àü¹®°¡ ¸ðµ¨'·Î ³ª´« µÚ Áú¹®¿¡ µû¶ó ÇÊ¿äÇÑ ¸ðµ¨¸¸ ºÒ·¯¿Í ó¸®ÇÔÀ¸·Î½á È¿À²À» ±Ø´ëÈÇÏ´Â ±â¼úÀÌ´Ù. 1991³â óÀ½ Á¦¾ÈµÈ ÈÄ ±¸±ÛÀÌ '½ºÀ§Ä¡ Æ®·£½ºÆ÷¸Ó(Switch Transformer)' µîÀ» ÅëÇØ ¹ßÀü½ÃŲ °³³äÀÌ´Ù.
µö½ÃÅ©´Â ±âÁ¸ MoE º¸´Ù Àü¹®°¡ ¸ðµ¨À» ´õ ¼¼ºÐÈÇÏ°í ¾î¶² Áú¹®ÀÌµç °øÅëÀûÀ¸·Î ÇÊ¿äÇÑ Áö½ÄÀ» ´Ù·ç´Â ÀϺΠ¸ðµ¨Àº Ç×»ó ´ë±â½ÃŰ´Â ¹æ½ÄÀ» ´õÇØ µö½ÃÅ©MoE¶ó´Â µ¶ÀÚÀûÀÎ º¯Çü ¾ÆÅ°ÅØÃ³·Î ¹ßÀü½ÃÄ×´Ù.
±âÁ¸¿¡ Á¸ÀçÇÏ´ø ±â¼úÀ» Àç¼³°èÇØ °æÀï»ç ¸ðµ¨ ´ëºñ ¸Þ¸ð¸® »ç¿ë·®°ú ¿¬»ê ºñ¿ëÀ» ȹ±âÀûÀ¸·Î ÁÙÀÌ´Â µ¥ ¼º°øÇß´Ù. °á°úÀûÀ¸·Î ÀûÀº ÀÚ¿øÀ¸·Îµµ °í¼º´ÉÀ» ³¾ ¼ö ÀÖÀ½À» Áõ¸íÇß´Ù.
À¯¸íÈ£ ½º´©¾ÆÀÌ·¦ ´ëÇ¥´Â "¿ÀǼҽº¸¦ Ȱ¿ëÇÏ´Â °Íº¸´Ù Áß¿äÇÑ °Ç ¿ÀǼҽº¸¦ ±×´ë·Î °¡Á®´Ù ¾²´ÂÁö ¾Æ´Ï¸é °Å±â¿¡ µ¶Ã¢ÀûÀÎ ¾ÆÀ̵ð¾î¿Í ¹æ¹ý·ÐÀ» °áÇÕÇØ »õ·Î¿î °¡Ä¡¸¦ ¸¸µé¾î³»´À³Ä Â÷ÀÌ"¶ó°í ÁöÀûÇß´Ù.
À̾î "Çа迡¼µµ ±âÁ¸ ¸ðµ¨¿¡ »õ·Î¿î ¿£ÁøÀ̳ª ¹æ¹ý·ÐÀ» Á¢¸ñÇØ ¼º´ÉÀ» °³¼±Çϸé?»õ·Î¿î ÀÌ·ÐÀ¸·Î ÀÎÁ¤ÇÑ´Ù"¸ç "´Ü¼øÈ÷ ¿ÀǼҽº¸¦ ½è³Ä ¾Æ´Ï³Ä¸¦ µûÁú °Ô ¾Æ´Ï¶ó ±â¾÷¿¡¼ Á¦½ÃÇÑ »õ·Î¿î ÀÌ·ÐÀ̳ª ±â¼úÀÌ ¾ó¸¶³ª Àû¿ëµÇ¾ú´Â°¡¸¦ µûÁö´Â ½É»ç ±âÁØÀÌ ÇÊ¿äÇÏ´Ù"°í ¸»Çß´Ù.
Çѱ¹¾î¸¸ ÀßÇÏ´Â AI´Â ³Ñ¾î...Â÷º°ÈµÈ Çõ½Å¼º Á¦½ÃÇØ¾ß
¾÷°è Àü¹®°¡µéÀº À̹ø ³í¶õÀ» °è±â·Î Çѱ¹ AI »ê¾÷ÀÌ 'µ¶ÀÚ AI'¶ó´Â ´Ü¾îÀÇ ÇÔÁ¤¿¡¼ ºüÁ®³ª¿Í¾ß ÇÑ´Ù°í ÁöÀûÇÑ´Ù. ´Ü¼øÈ÷ ºÎǰ ±¹»êÈÀ²À» µûÁö´Â Á¦Á¶¾÷½Ä »ç°í¹æ½ÄÀ¸·Î´Â AI ±â¼ú ÆÐ±Ç °æÀï º»ÁúÀ» ³õÄ¥ ¼ö ÀÖ´Ù.
À¯¸íÈ£ ´ëÇ¥´Â "ºñÀü ÀÎÄÚ´õ´Â µ¥ÀÌÅÍ ±¸Ã൵ ¾î·Æ°í °³¹ß ³µµ°¡ ¸Å¿ì ³ô´Ù"¸ç "¿ì¸®µµ ÀÚü °³¹ßÇÏ´Â µ¥¸¸ 2~3³âÀÌ °É·È´Ù"¸ç ´Ü½Ã°£¿¡ AI °ü·Ã ¸ðµç ÀÎÇÁ¶ó¸¦ ±¸ÃàÇÏ´Â °ÍÀº ÇѰ谡 ÀÖ´Ù°í ÁöÀûÇß´Ù.
ÇöÀç ±Û·Î¹ú ½ÃÀåÀº AI °ü·Ã ¸ðµç ¿ä¼Ò¸¦ ÀÚüÀûÀ¸·Î ¸¸µé¾ú´ÂÁö º¸´Ù ƯÁ¤ ºÐ¾ß¶óµµ ¾ó¸¶³ª µ¶Ã¢ÀûÀ̰í Â÷º°ÈµÈ ¾ÆÅ°ÅØÃ³¸¦ ¸¸µé¾ú´ÂÁö,?±× °á°ú ºñ¿ë È¿À²¼ºÀ̳ª ƯÁ¤ ±â¼ú Æ¯È µî Â÷º°È Æ÷ÀÎÆ®°¡ ¹«¾ùÀÎÁö¸¦ ¹¯°í ÀÖ´Ù. µö½ÃÅ©°¡ ÀÎÁ¤¹Þ´Â ÀÌÀ¯µµ ÀÌ ÁöÁ¡ÀÌ´Ù.
½º´©¾ÆÀÌ·¦¿¡¼ ÀÚü°³¹ßÇÑ ºñÀü ÀÎÄÚ´õ¸¦ Ȱ¿ëÇÑ ÈÁú °³¼± AI (À̹ÌÁö=½º´©¾ÆÀÌ·¦)
´õºÒ¾î ¾ÐµµÀûÀÎ ÀÚº»°ú ÀηÂÀ» ½ñ¾Æº×´Â ¹Ì±¹°ú Áß±¹À» ´Ü¼øÈ÷ Ãß°ÝÇÏ´Â ¹æ½ÄÀ¸·Î´Â ½Â»êÀÌ ¾ø´Ù´Â ÁöÀûÀÌ´Ù. ƯÈ÷ ±Û·Î¹ú ½ÃÀå¿¡¼ °æÀïÇϱâ À§ÇÑ AI ¸ðµ¨À» ¸ñÇ¥·Î ÇÏ´Â ¸¸Å Çѱ¹¾î ÀνķüÀÌ ³ô´Ù´Â Æ÷ÀÎÆ®¸¸À¸·Î´Â Â÷º°È Æ÷ÀÎÆ®¸¦ Á¦½ÃÇÒ ¼ö ¾ø´Ù´Â °ÍÀÌ ¾÷°è ¹ÝÀÀÀÌ´Ù.
ÀÓÁ¤È¯ ´ëÇ¥´Â "Á¤ºÎ¿Í ½ÃÀåÀÌ º¥Ä¡¸¶Å© Á¡¼ö 1µîÀ̶ó´Â ŸÀÌÆ²¿¡¸¸ ÁýÂøÇÏ¸é ±â¾÷Àº °á±¹ °ËÁõµÈ ¿ÀǼҽº ¸ðµ¨À» °¡Á®¿Í Á¡¼ö¸¸ ¿Ã¸®´Â '¾ÈÀüÇÑ ±æ'¸¸ ÅÃÇÏ°Ô µÈ´Ù"°í °æ°íÇß´Ù.?
´Ü±âÀûÀ¸·Î´Â °¡½ÃÀûÀÎ ¼º°úó·³ º¸ÀÏÁö ¸ô¶óµµ Àå±âÀûÀ¸·Î´Â ¿øÃµ ±â¼ú ºÎÀç·Î ÀÎÇÑ ±Û·Î¹ú ±â¼ú Á¾¼ÓÀ» ½ÉȽÃŰ´Â °á°ú¸¦ ÃÊ·¡ÇÒ ¼ö ÀÖ´Ù´Â ÁöÀûÀÌ´Ù.?À̸¦ ¹æÁöÇϰí Çѱ¹ AI »ê¾÷ÀÌ µö½ÃÅ©¿Í °°Àº ¹Ý¿¿¡ ¿À¸£±â À§Çؼ´Â 'º¸¿©ÁÖ±â½Ä ¼º°ú'¿¡ ÁýÂøÇÏ´Â ÇöÀç Æò°¡ ü°è¸¦ °³¼±ÇØ¾ß ÇÑ´Ù´Â ¿ä±¸µµ?Á¦±âµÇ°í ÀÖ´Ù.
ÀÓ ´ëÇ¥´Â "ÁøÁ¤ÇÑ ±¹°¡´ëÇ¥ AI¶ó¸é ´Ü¼øÈ÷ Çѱ¹¾î¸¦ ÀßÇÏ´Â AI¸¦?³Ñ¾î ±Û·Î¹ú ½ÃÀå¿¡ ³»¼¼¿ï ¼ö ÀÖ´Â Æ¯ÈµÈ ÀåÁ¡°ú °æÀï·ÂÀÌ ÀÖ¾î¾ß ÇÑ´Ù"¸ç "¼³·É ´çÀåÀº Á¡¼ö°¡ ³·°Å³ª ½ÇÆÐÇÏ´õ¶óµµ ¸Ç¶¥¿¡ ÇìµùÇÏ¸ç µ¶ÀÚÀûÀÎ °¡¼³À» ¼¼¿ì°í ¿øÃµ ±â¼úÀ» È®º¸ÇÏ·Á´Â ±â¾÷¿¡°Ô ´õ ¸¹Àº ±âȸ¿Í Áö¿øÀ» Á¦°øÇØ¾ß ÇÑ´Ù"°í Á¦¾ðÇß´Ù
³²Çõ¿ì ±âÀÚ(firstblood@zdnet.co.kr)