챗GPT와 같은 챗봇을 포함한 생성형 AI는 지난 한 해 동안 폭발적으로 성장했다. [AFP]

Generative AI, which includes chatbots such as ChatGPT, have exploded over the past year.[AFP]

Generative AI is a powerful tool that businesses can use to make their workers more productive and enhance their product offerings. While many companies are adopting generative AI initiatives, few are designing these initiatives to achieve sustainable competitive advantage. Whether generative AI is leveraged internally to improve productivity, or externally to improve the customer experience, or both, the key to long-lasting advantage is to create self-reinforcing feedback loops around proprietary and unique data.

Let me elaborate.

Since we are only at the beginning of the generative AI revolution, the technology still offers lots of low-hanging fruit for most companies. They can and should have their workers use publicly available generative AI tools, generic (OpenAI‘s ChatGPT, Google’s Gemini) or specialized (GitHub Copilot for coding, Alexi for legal research, and Jasper for marketing and sales). These tools can assist in generating content, improving internal communications, conducting research, and more generally streamlining processes, thereby increasing employee productivity.

Many companies can also greatly improve their customer experience by replacing clunky user interfaces with generative AI-based interfaces. Consider the example of SAP Concur, an enterprise software known for its complicated and cumbersome interface. Navigating through its maze of drop-down menus is a painful experience for many users. By integrating generative AI, SAP could vastly streamline the user interface, allowing users to interact with the software through natural language. Users could simply describe their needs, and the AI would handle the navigation and data entry, making the software more intuitive and user-friendly. Similar improvements could be made by many other software providers, financial service providers, online retailers, etc.

However, as generative AI tools become ubiquitous, using them to boost employee productivity and incorporating them in user interfaces will become a basic expectation, or “table stakes,” for most companies. As a result, this cannot be the basis for creating competitive advantage, any more than adopting Slack for internal communications or building a mobile app version of a company‘s product can. To achieve lasting advantage, businesses will need to go one level deeper and find ways to create data feedback loops around the generative AI capabilities they are building.

What are data feedback loops?

The idea behind self-reinforcing data feedback loops is to create a system that collects and analyzes data from interactions with employees and/or customers, continuously improving its performance and the quality of its outputs. The more customers a firm serves, the more data it accumulates, which enhances the system‘s capabilities, leading to lower costs or higher customer willingness to pay, or both. This in turn should enable the firm to attract more customers, collect more data, and so on.

Data feedback loops are not specific to generative AI: companies that use machine learning algorithms to run their internal processes (e.g., Amazon‘s inventory management in its warehouses) or to improve their products (e.g., Netflix’s recommendation system) also benefit from this mechanism. Here, however, I wish to focus on generative AI applications.

(Re)design internal processes to generate data feedback loops

To go beyond merely adopting generative AI tools to enhance individual employee productivity, companies can redesign their internal processes around such tools. For instance, a consulting firm could build its own generative AI tool that produces initial drafts of research reports. Employees would then refine these drafts during the course of their interactions with clients, and the AI would learn from the revisions, producing better drafts over time. Of course, the firm must ensure that the AI tool does not use one client‘s confidential data when engaging with another client, especially one in the same industry. This process creates a data feedback loop: the more clients the firm serves, the more data the AI accumulates, improving its drafting capabilities and lowering costs while increasing the quality of the work, which attracts more clients, and so on.

In a similar way, a manufacturing company like Samsung or LG could develop its own internal generative AI tool to help improve and speed up the development of its products (smartphones, home appliances). The tool would generate a wide range of potential design options to explore. As engineers and designers choose among these options, test and optimize them for performance, cost, and manufacturability, they provide feedback to the generative AI tool. As a result, the designs generated by the AI become better and better along the dimensions that the manufacturer cares about. This should lead to higher quality products developed faster and at lower cost.

(Re)design products to generate data feedback loops

To go beyond merely adding an AI chatbot to the customer interface, companies can redesign their products to incorporate generative AI in a way that generates feedback loops from customer usage. For example, online video game publishers can use generative AI to create and continuously improve customized nonplayer characters (NPCs), based on observations of how users react to and engage with different NPCs during game play. The AI models can learn in real-time which NPC behaviors enhance user engagement, leading to more immersive and enjoyable gaming experiences. This continuous improvement cycle generates a self-reinforcing feedback loop, where more user interactions lead to better game elements, attracting more users and further refining the AI.

As another example, consider Duolingo, a popular language learning app, which uses generative AI to provide personalized learning experiences. The app collects vast amounts of data from users‘ interactions, such as their responses to exercises, the time taken to complete tasks, and the types of mistakes they make. This data is continuously fed into AI algorithms that adapt the difficulty and type of exercises presented to each learner. For example, if a user consistently struggles with a particular grammar rule, the AI can generate additional practice exercises targeting that specific area. This personalized approach not only helps users learn more effectively but also provides Duolingo with valuable data to further refine its AI models, creating a robust feedback loop.

2024년 2월 27일 스페인 바르셀로나에서 열린 모바일 월드 콩그레스(MWC)에서 사람들이 인공지능(AI) 칩 회사 사페온의 간판 근처를 걷고 있다. [로이터]

People walk near a sign for Sapeon, an artificial intelligence (AI) chip company, at the Mobile World Congress (MWC) in Barcelona, Spain, February 27, 2024. [REUTERS]

Is the data generated unique?

In both cases―whether generative AI is used to improve internal productivity or customer experience―the key to competitive advantage lies in creating self-reinforcing feedback loops that generate unique data. So once a firm manages to create these loops, there remains the question of whether the data that powers them is indeed unique. This means the data cannot be acquired from some other source or easily substituted with data that is widely available. If that were the case, then any competitor could achieve similar operational or product improvements without having to serve as many customers.

In each of the four examples described above, the data generated is arguably unique. For example, a consulting firm‘s internal generative AI tool will produce report drafts based on that firm’s unique style and customer interactions. A different firm would have different customers and a different way of approaching customer projects. Contrast this with the hypothetical case of a web design firm using a generative AI tool to help create websites for its clients. Given that websites are by definition public, it is hard to see what unique data such a tool would be able to produce relative to a generic and publicly available tool that is trained on all websites on the internet.

In general, more complex and customizable products are more likely to lead to unique data because then each company can optimize over a unique combination of product attributes (e.g., cost vs. speed vs. quality) for specific customer segments, which means its gen AI tool will produce idiosyncratic predictions over time, resulting in true differentiation.

Concluding thoughts

Generative AI offers immense potential for enhancing productivity and user interfaces. However, to achieve sustainable competitive advantage, businesses must go beyond these initial benefits and strategically design AI systems that create data feedback loops. By doing so, companies can continuously improve their products based on user interactions, driving better performance, user satisfaction, and ultimately, a stronger competitive position.

So will generative AI be a technology that levels the playing field between established companies and new entrants? This depends on whether existing data gives incumbents a big advantage. If it doesn‘t, then they will be disrupted. For instance, it is hard to imagine products like SAP Concur not being challenged by simpler and easier-to-use products designed around generative AI. The future of competitive advantage in the era of generative AI lies in harnessing the power of proprietary data and self-reinforcing feedback loops to create unique and continuously evolving value propositions.

Andrei Hagiu profile

Associate Professor, Information system at Boston University

Andrei Hagiu is an Associate Professor at Boston University‘s Questrom School of Business. Andrei’s research and teaching are focused on platform businesses and their unique strategic challenges. He leverages the insights from his research to advise and angel invest in startups attempting to build platforms and marketplaces, and to consult with large companies seeking to turn their products into platforms.

생성형 AI와 기업의 경쟁력

생성형 인공지능(AI)은 기업이 직원의 생산성을 제고하고 제품을 개선하기 위해 사용할 수 있는 강력한 툴이다. 그런데 생성형 AI 프로그램을 도입하는 기업은 많지만, 지속가능한 경쟁 우위를 확보할 목적에서 이런 프로그램을 계획하는 기업은 드물다. 생성형 AI를 활용하는 이유는 내부적인 생산성 향상이든 외부적인 고객 경험 개선이든, 아니면 둘 다든 간에 장기적으로 우위를 점하기 위해서는 고유한 독점(Proprietary) 데이터를 중심으로 자기 강화형 피드백 루프(Feedback Loop)를 만드는 것이 핵심이다. 피드백 루프는 이전 출력을 기반으로 AI모델을 점차 재훈련하고 개선하는 것을 의미한다.

설명하자면 이렇다. 생성형 AI 혁명은 이제 시작 단계이기 때문에, 대부분의 기업은 아직 이 기술로 손쉽게 딸 수 있는 과실이 무수히 많다. 기업은 직원들에게 대중이 이용할 수 있는 일반적(오픈AI의 챗GPT, 구글의 제미나이) 또는 특화된(코딩 목적의 깃허브 코파일럿(GitHub Copilot), 법률 리서치를 위한 알렉시(Alexi), 마케팅·세일즈 용인 재스퍼) 생성형 AI 툴을 사용하게끔 할 수 있고, 또 그렇게 해야만 한다. 이런 툴은 콘텐츠 제작, 내부 소통 개선, 연구 수행, 그리고 더 넓게는 프로세스의 효율화, 그리고 그에 따른 직원 생산성 향상에 도움을 줄 수 있다.

또한 상당수 기업은 투박한 사용자 인터페이스를 생성형 AI 기반의 인터페이스로 교체해 고객 경험을 크게 향상할 수도 있다. 복잡하고 번거로운 인터페이스로 잘 알려진 기업용 소프트웨어 SAP 컨커(Concur)를 한번 생각해 보자. 컨커가 만든 드롭다운 메뉴의 미로 속에서 헤매는 것은 많은 사용자에게 고통스러운 경험이다. 생성형 AI를 도입한다면 SAP는 사용자 인터페이스를 엄청나게 효율화할 수 있고, 사용자는 소프트웨어와 자연어로 소통할 수 있다. 사용자는 자신이 필요한 것을 설명만 하면 된다. 그러면 AI가 검색과 데이터 입력을 맡아 하고, 소프트웨어는 더 직관적이고 사용자 친화적이 될 것이다. 다른 수많은 소프트웨어 제공업체, 금융서비스 제공업체, 온라인 소매업체 등도 이와 비슷한 개선 사례를 만들 수 있다.

하지만 생성형 AI 툴이 보편화됨에 따라, 대다수 기업은 이런 툴을 직원의 생산성 개선에 활용하고 사용자 인터페이스에 적용하는 것을 당연시하거나 “판돈(Table Stake)”으로 여길 것이다.

그렇게 되면 이런 툴은 내부 소통을 위해 슬랙(Slack)을 도입하거나 회사 제품의 모바일 앱 버전을 만드는 것 따위가 달성할 수 있는 이상의 경쟁 우위를 확보할 기반이 될 수 없다. 지속적 우위를 점하려면, 기업은 한층 더 깊이 들어가 자신들이 구축하는 생성형 AI 능력을 중심으로 데이터 피드백 루프를 만들 방안을 찾아내야 할 것이다.

데이터 피드백 루프란 무엇인가?

자기 강화형 데이터 피드백 루프의 기본 의도는 직원 또는 고객과의 상호작용으로부터 데이터를 수집하고 분석하는 시스템을 구축하며, 그 시스템의 성능과 결과물의 품질을 지속적으로 개선하는 것이다. 기업이 응대하는 고객이 많을수록, 기업이 축적하는 데이터가 많아지며, 이 데이터는 시스템의 능력을 개선해 비용 절감이나 고객의 지불 의사 증가, 혹은 양쪽 모두로 이어진다. 그러면 다시 기업은 더 많은 고객 유치, 더 많은 데이터 수집 등을 할 수 있게 될 것이다.

데이터 피드백 루프는 생성형 AI에만 국한된 이야기는 아니다. 이 메커니즘은 내부 프로세스를 운영하거나(예: 아마존의 자사 창고 재고관리) 자사 제품을 개선하기 위해(예: 넷플릭스의 추천 시스템) 기계학습 알고리즘을 사용하는 기업에도 유익하다. 그러나 여기서는 생성형 AI 애플리케이션에만 집중해 보자.

데이터 피드백 루프 생성을 위한 내부 프로세스의 (재)설계

기업은 단순히 직원 개개인의 생산성을 향상할 요량으로 생성형 AI 툴을 채택하는 데서 그치지 않고 이런 툴을 중심으로 내부 프로세스를 다시 설계할 수 있다. 가령, 컨설팅 회사라면 연구 보고서의 첫 초안을 작성하는 자체 생성형 AI 툴을 구축할 수 있다. 그러면 직원들이 고객과 소통해 나가면서 이 초안을 가다듬고, AI는 그 수정본을 학습해 차츰 더 나은 초안을 작성하게 되는 것이다. 물론 이때 회사는 이 AI 툴이 고객의 기밀 데이터를 다른 고객, 특히 같은 산업에 속한 다른 고객을 응대할 때 사용하지 않도록 보장해야 한다. 이 과정이 데이터 피드백 루프를 만드는 것이다. 즉, 기업의 고객 수가 많을수록, AI가 축적하는 데이터가 많아지고, 이는 AI의 초안 작성 능력을 개선하며 비용을 줄이는 한편, 작업물을 질적으로 개선하여 다시 더 많은 고객을 끌어모은다.

마찬가지로 삼성이나 LG 같은 제조사도 자사 제품(스마트폰, 가전기기)의 개발을 향상 및 가속하기 위해 자체적인 내부 생성형 AI 툴을 개발할 수 있다. 이 툴은 검토해 볼 만한 다양한 잠재적 설계안을 생성할 것이다. 그러면 엔지니어와 설계자가 이 중에서 어떤 안을 골라 테스트하고, 성능, 비용 및 제조 가능성 면에서 최적화한 뒤, 생성형 AI 툴에 피드백을 제공한다. 그 결과 AI가 생성하는 설계안은 제조사가 관심을 가지는 특성에 따라 점점 더 개선되어 간다. 그러면 더 양질의 제품이 더 빨리, 더 저렴한 가격에 개발될 것이다.

데이터 피드백 루프 생성을 위한 제품의 (재)설계

고객 인터페이스에 달랑 AI 챗봇 하나를 추가하는 것을 넘어 기업은 고객 사용성을 기반으로 피드백 루프를 만드는 방식으로 생성형 AI를 적용하도록 제품을 재설계할 수 있다. 예를 들어 온라인 비디오게임 배급사는 이용자가 게임을 플레이하는 중에 다양한 비플레이어 캐릭터(NPC · Nonplayer Character)에 어떻게 반응하고 상호작용하는지 관찰한 내용을 바탕으로 맞춤형 NPC를 개발하고 지속 개선하는데 생성형 AI를 사용할 수도 있다. AI 모델은 어떤 NPC 행동이 사용자 참여율을 높이고, 그 결과 더 몰입감 있고 즐거운 게임 경험을 만드는지 실시간으로 학습할 수 있다. 이런 지속적인 개선 사이클이 자기강화형 피드백 루프를 만든다. 다시 말해 사용자 상호작용이 많아지면 게임 요소가 개선되고, 이용자가 더 많아지며 나아가 AI가 개선되는 것이다.

또 다른 예로 듀오링고를 들 수 있다. 듀오링고는 인기 있는 언어학습 앱으로 생성형 AI를 이용해 개인 맞춤형 학습 경험을 제공한다. 이 앱은 연습문제에 대한 이용자의 응답, 과제를 완수하는 데 걸리는 시간, 이용자의 실수 유형 등 이용자의 상호작용에서 방대한 양의 데이터를 수집한다. 이 데이터는 지속적으로 AI 알고리즘에 반영되고, AI 알고리즘은 각 학습자에게 제시되는 연습문제의 난이도와 유형을 수정한다. 가령, 이용자가 특정 문법을 계속 어려워한다면, AI가 해당 영역에 맞춘 연습 문제를 추가로 생성할 수 있다. 이런 개인 맞춤형 방식을 적용하면 이용자가 더욱 효과적으로 학습하는데 도움을 줄 수 있을 뿐 아니라, 듀오링고에는 자체 AI 모델을 한층 개선할 수 있는 소중한 데이터를 제공하여, 강력한 피드백 루프를 형성하게 된다.

생성된 데이터가 고유한가?

생성형 AI의 활용 목적이 내부 생산성 증대든 고객 경험 향상이든 간에 경쟁 우위를 확보하는 핵심은 고유한 데이터를 생성하는 자기 강화형 피드백 루프를 만드는 데 있다. 그러니 일단 기업이 어떻게든 이 루프를 생성해 냈다면, 이제 남은 문제는 이 루프의 기반이 되는 데이터가 정말 고유한가 하는 것이다. 즉, 데이터를 어떤 다른 출처에서 얻거나 널리 이용 가능한 데이터로 쉽게 대체할 수 없다는 의미다. 만약 데이터를 다른 데서 얻거나 대체하는 게 가능하다면, 어떤 경쟁자든 그만큼 많은 고객을 보유하지 않고도 비슷한 운용 혹은 제품상의 개선을 이룰 수 있을 것이기 때문이다.

앞서 예로 든 네 개의 사례 각각에서, 생성되는 데이터는 단연코 고유하다고 할 수 있다. 예를 들어 컨설팅 회사의 내부 생성형 AI 툴은 그 회사만의 스타일과 고객 상호작용에 기반해 보고서 초안을 작성할 것이다. 다른 회사는 보유한 고객이 다르고, 고객 프로젝트에 접근하는 방식 또한 다를 것이다. 고객의 웹사이트 구축을 돕기 위해 생성형 AI 툴을 사용하는 웹 디자인 회사가 있다고 가정하고 비교해 보자. 웹사이트란 정의상 공개적이므로, 대중이 이용할 수 있고 인터넷상의 모든 웹사이트에서 학습된 일반 툴과 비교했을 때 그런 툴이 어떤 고유 데이터를 생성할 수 있을지 상상하기 어렵다.

전반적으로 제품이 복잡하고 사용자에 따라 조정이 가능할수록, 고유한 데이터가 생성될 가능성이 더 높다. 회사마다 고객 세그먼트별로 고유한 제품 속성 조합(예: 가격 대 속도 대 품질)을 가지고 최적화할 수 있기 때문이다. 이는 곧 그 회사의 생성형 AI 툴이 시간이 지날수록 특유의 예측을 하게 되고 진정한 차별화를 이루어 낼 거라는 뜻이다.

결론

생성형 AI는 생산성과 사용자 인터페이스를 향상할 수 있는 막대한 잠재력이 있다. 그러나 지속 가능한 경쟁 우위를 점하기 위해서는 기업이 이런 기본적인 장점을 넘어 데이터 피드백 루프를 만드는 AI 시스템을 전략적으로 설계해야 한다. 그렇게 되면 기업은 사용자 상호작용을 바탕으로 제품을 지속적으로 개선하고, 실적 개선, 이용자 만족도 향상, 그리고 궁극적으로 경쟁력 강화를 달성할 수 있다.

그러면 생성형 AI가 기존 기업들과 신규 진입자 사이에 공평한 경쟁의 장을 만드는 기술일까? 대답은 기존의 데이터가 기존 기업들에 큰 이점이 되는지 여부에 달렸다. 그러지 못한다면 그런 기업들은 흔들릴 것이다. 가령, SAP 컨커에 도전하는 더 간편하고 사용성 높은 생성형 AI 기반의 제품이 나오지 않을 거라고 상상하기는 힘들다. 생성형 AI의 시대에서 경쟁 우위의 미래는 끊임없이 진화하는 고유의 가치제안을 위해 독점 데이터와 자기 강화형 피드백 루프의 힘을 활용하는데 달려있다.

안드레이 학주 프로필

보스턴대학교 경영대학원 부교수

보스턴 대학교 퀘스트롬 경영대학원 부교수로 연구와 강의는 플랫폼 비즈니스고유의 전략적 과제에 초점을 맞추고 있다. 그는 연구를 통해 얻은 인사이트를 활용해 플랫폼과 마켓플레이스 구축을 시도하는 스타트업에 조언과 엔젤 투자를 하고 있다. 또 자사 제품을 플랫폼으로 전환하려는 대기업에 컨설팅도 제공하고 있다.