When AI Begins to Design Viruses

A New Frontier of Medicine, Scientific Discovery, and Biosecurity

From Reading Life to Designing Life

The history of science is, in many respects, the history of humanity learning to understand nature.

We discovered fire, learned to work with metals, built machines, and eventually created computers capable of processing information at extraordinary speed. In the twentieth century, biology entered a new era as scientists learned to decipher the molecular foundations of life. In the twenty-first century, humanity has moved from reading genetic information toward manipulating and designing biological systems.

We are now approaching an even more consequential threshold.

Artificial intelligence is beginning not merely to read the language of life, but to help design biological systems.

This transition is no longer theoretical. Recent work published in Science demonstrated the generative design of bacteriophage genomes using genome language models. The research builds upon Evo, a biological foundation model designed to model sequences from the molecular to genome scale (Nguyen et al., 2024) and demonstrates that AI-generated genomic sequences can move beyond computational prediction toward experimentally testable biological function.

The significance of this development extends far beyond one scientific experiment.

It suggests that AI is beginning to evolve from a tool for searching biological knowledge into an engine for biological design.

That transition may become one of the defining scientific developments of the twenty-first century.

A New Possibility in the Fight Against Antibiotic Resistance

One of the most compelling motivations for this research is the global challenge of antimicrobial resistance.

Modern medicine has depended heavily on antibiotics. They transformed the treatment of bacterial infections and made many medical procedures possible. Yet bacteria continuously evolve. Under selective pressure, resistant strains can emerge, making previously effective treatments less reliable.

This creates a fundamental scientific problem: how can medicine develop new strategies rapidly enough to keep pace with biological evolution?

One promising approach is bacteriophage therapy.

Bacteriophages are viruses that infect bacteria. Their biological specificity makes them attractive candidates for therapeutic applications, particularly when conventional antimicrobial approaches become ineffective.

The difficulty is finding or developing the appropriate phage for a particular bacterial target.

AI changes the nature of that problem.

Instead of asking only,

“Which useful bacteriophages already exist in nature?”

researchers can increasingly ask,

“Can computational models help us design bacteriophages with desired biological characteristics?”

The distinction is profound.

It marks a transition from discovering biological possibilities to generating new biological possibilities.

The recent Science study on generative bacteriophage design provides an important proof of concept for this transition.

DNA as a Language for Artificial Intelligence

The conceptual foundation of this transformation becomes clearer if we think of DNA as a language.

Large language models learn patterns in human language. They process enormous collections of text and learn relationships among symbols, words, phrases, and structures.

Genomic foundation models apply a related computational intuition to biological sequences.

DNA consists of sequences built from four nucleotide bases—A, C, G, and T. Those sequences contain information associated with biological structure and function. By learning patterns in genomic data, AI models can develop representations that support prediction and, increasingly, biological sequence generation.

Evo represents an important milestone in this development. Nguyen et al. (2024) demonstrated sequence modeling and design capabilities extending from molecular-scale sequences toward genome-scale biological information.

The conceptual trajectory is striking.

AI first learned to generate human language.

It then expanded into images, audio, software code, and scientific text.

It is now increasingly being applied to the language of biology.

AI is beginning to interpret and generate biological sequences in ways that resemble language modeling.

This does not mean that DNA is literally equivalent to human language. Biological systems are vastly more complex than ordinary linguistic sequences. Function emerges from interactions among genes, proteins, cells, environments, and evolutionary histories.

Nevertheless, the language-modeling paradigm offers a powerful computational framework for exploring biological sequence space.

And that may change the scale and speed of biological discovery.

From Natural Evolution to Computational Exploration

Evolution has explored biological possibilities over billions of years.

But evolution does not search all possible biological configurations.

It follows pathways constrained by historical contingency, mutation, selection, ecological interactions, and chance.

AI introduces a different form of exploration.

A sufficiently capable model can search large spaces of possible sequences computationally and propose candidates that may never have appeared naturally.

This does not mean that AI can freely create arbitrary living systems. Biological function remains constrained by chemistry, physics, cellular mechanisms, evolutionary compatibility, and experimental reality.

Indeed, one of the most important lessons of current research is that generation is not the same as functionality.

An AI model may generate enormous numbers of candidate sequences, but only a small fraction may prove biologically viable.

The significance lies precisely in the emerging loop between computational generation and laboratory validation.

AI proposes.
Science tests.
Experimental data return to computation.
The model improves.

This creates a new paradigm for scientific discovery.

The Promise and the Shadow

Every transformative scientific technology creates a difficult question.

If AI can help design biological systems for beneficial purposes, could related capabilities eventually be misused?

This question should not obscure the immediate scientific context.

The current bacteriophage work concerns viruses that infect bacteria, not humans. The research was motivated in part by the potential to address bacterial pathogens and antimicrobial resistance. It should therefore not be portrayed as evidence that AI can currently design human pathogens.

At the same time, the development raises legitimate questions about future dual-use risks.

Pannu et al. (2025) examined biological AI models specifically from the perspective of dual-use capabilities of concern, arguing that evaluations of AI systems with biological capabilities should consider high-consequence risks before deployment.

Wheeler (2025) similarly emphasized that AI-enabled biotechnology offers enormous opportunities while creating new biosecurity challenges that require technical safeguards, governance mechanisms, and responsible research practices.

The issue, therefore, is not whether AI-designed bacteriophages are inherently dangerous.

They are not.

The deeper issue is that a general capability—AI-assisted biological design—could eventually have applications beyond the original therapeutic context.

That is the essence of dual use.

The Most Important Boundary Is Between Digital Design and Physical Reality

There is a critical distinction in thinking about AI and biotechnology.

An AI model can produce information.

But information becomes biologically consequential when it can be transformed into physical material.

This creates a chain: AI model → biological sequence → synthesis → laboratory experiment → biological function.

The safety problem therefore cannot be solved entirely inside the AI model.

It must extend across the entire socio-technical system.

This is particularly important because DNA synthesis technology provides a bridge between digital information and biological matter.

Recent work on privacy-preserving DNA synthesis screening illustrates one possible layer of this defense. The SecureDNA approach was designed to enable automated screening of DNA synthesis orders while protecting the privacy of the sequences being screened. A 2026 publication in National Science Review reports on this approach and its broader role in DNA synthesis security.

The principle is important: Do not rely on one safeguard. Build security into the entire chain.

A Biological Version of Zero Trust

This is where lessons from cybersecurity become particularly relevant.

Modern cybersecurity increasingly rejects the assumption that a system should automatically trust users, devices, networks, or data simply because they appear legitimate.

The principle of Zero Trust is straightforward:

Never trust by default; verify continuously.

A similar philosophy could be valuable in AI-enabled biotechnology.

An AI-generated biological design should not be trusted merely because a reputable model generated it.

A sequence should not be considered safe simply because it appears statistically plausible.

A synthesis request should not be accepted without appropriate screening.

A laboratory experiment should not proceed without appropriate biosafety and biosecurity assessment.

And a biological result should not automatically be deployed simply because it works experimentally.

A responsible architecture might therefore follow four principles:

Design Zero Trust.
Verify AI-generated biological designs.

Synthesis Zero Trust.
Screen biological sequences before physical synthesis.

Experiment Zero Trust.
Evaluate biological risks before laboratory implementation.

Deployment Zero Trust.
Require appropriate human and institutional authorization before real-world use.

Such a framework does not require abandoning innovation.

It seeks to make innovation secure by design.

Governance Must Move at the Speed of Science

One of the greatest challenges is that scientific capability can develop much faster than regulatory institutions.

Eskandar (2026) reviewed the rapidly evolving intersection of AI and synthetic biology and identified a shift in biosecurity risks from physical materials alone toward a broader socio-technical landscape involving models, datasets, automation, synthesis systems, and distributed technological infrastructure.

This observation has profound implications.

Traditional biotechnology governance often focused on laboratories, organisms, physical materials, and researchers.

AI-enabled biotechnology requires a broader model.

Governance must consider:

the training data used by biological AI models;
the capabilities made available through models;
access controls and user authentication;
biological sequence generation;
DNA synthesis screening;
laboratory automation;
experimental validation;
data feedback loops;
international research collaboration; and
continuous monitoring of emerging capabilities.

In other words, biosecurity can no longer be treated as merely a laboratory problem.

It is becoming an information-security problem as well.

And information security is becoming a biological-security problem.

The two disciplines are converging.

Scientists Are Becoming Designers

The role of the scientist is changing.

For much of scientific history, researchers primarily sought to discover what already existed in nature.

Galileo observed celestial motion.

Darwin studied biological diversity and evolutionary processes.

Molecular biologists uncovered the structure and function of DNA.

The scientist was fundamentally an observer, investigator, and discoverer.

AI-enabled biology introduces a new question:

Can we design biological systems that nature has never produced?

This changes the philosophy of scientific inquiry.

Discovery searches the space of what exists.

Design searches the space of what might exist.

AI expands the computational ability to explore that second space.

The scientist therefore becomes increasingly both discoverer and designer.

And design carries a special responsibility.

A discovery can reveal something we did not know.

A design can introduce something that did not previously exist.

That distinction deserves careful ethical attention.

We Should Not Fear Scientific Progress—We Should Govern It Wisely

The history of technological change reveals two recurring extremes.

One is unconditional optimism:

“Technology will solve humanity’s problems.”

The other is unconditional fear:

“Technology will ultimately destroy humanity.”

Neither position is adequate.

Technology is a capability.

Its consequences depend on the purposes, institutions, incentives, safeguards, and values that surround it.

AI-designed bacteriophages may eventually contribute to new strategies against difficult bacterial infections.

That is an extraordinary possibility.

At the same time, the same underlying computational paradigm may create new biological risks if applied irresponsibly.

The appropriate response is therefore neither technological paralysis nor technological naïveté.

It is responsible acceleration.

We should accelerate beneficial applications while simultaneously accelerating safety research, governance, monitoring, and institutional preparedness.

Toward a New Architecture of Scientific Responsibility

The convergence of AI and synthetic biology may require a new scientific safety architecture.

Such an architecture should connect four domains:

AI safety.

Models should be evaluated for potentially dangerous biological capabilities.

Cyberbiosecurity.

Digital systems connecting AI, databases, synthesis platforms, and laboratories should be protected against misuse and compromise.

Biosafety and biosecurity.

Physical experiments should remain subject to rigorous institutional safeguards.

Human governance.

Scientists, universities, industry, governments, and international organizations should establish shared norms and accountability mechanisms.

This multilayered approach is consistent with recent scholarship emphasizing that biological AI risks cannot be addressed through a single intervention.

The future of biotechnology will therefore depend not only on better models.

It will depend on better institutions surrounding those models.

A New Civilizational Transition

Human civilization has already experienced several great technological transformations.

The Agricultural Revolution enabled humanity to cultivate nature.

The Industrial Revolution enabled humanity to transform matter and energy on an unprecedented scale.

The Digital Revolution enabled humanity to process, store, and transmit information.

The emerging AI-biotechnology revolution may enable humanity to read, predict, and increasingly design biological information.

That is not simply another technological upgrade.

It may represent a new civilizational transition.

Imagine the laboratory of the future.

An AI system proposes a biological design.

A scientist evaluates it.

An automated laboratory conducts controlled experiments.

Sensors collect the results.

The data return to the computational system.

The model learns from the experiment.

A new candidate emerges.

The cycle continues.

AI → Design → Experiment → Data → AI

The laboratory becomes an intelligent feedback system.

The boundary between computation and experimentation becomes increasingly fluid.

Scientific discovery becomes faster, more iterative, and potentially more creative.

But it also becomes more dependent on responsible governance.

The Final Question Is Not About AI. It Is About Humanity.

The most important question raised by AI-designed biological systems is not simply:

“Can AI design a virus?”

The emerging scientific evidence shows that AI can already contribute to the design of functional viral genomes in at least a relatively simple bacteriophage system. The 2026 Science publication makes this a concrete scientific milestone rather than merely a speculative possibility.

The deeper question is: “Are human beings prepared to exercise greater responsibility as our technological power over life increases?”

Humanity is learning to read the language of life.

We are learning to model it.

We are learning to generate biological sequences.

And we are beginning to demonstrate that computationally generated genomic designs can sometimes become functioning biological systems.

This achievement should inspire scientific excitement.

But it should also inspire humility.

A civilization does not become wiser simply because it becomes more powerful.

Civilization advances when greater power is accompanied by greater responsibility.

The most important technology in the age of AI-designed biology may therefore not be a more powerful AI model.

It may be something much older and much more human: wisdom—the ability to distinguish between what we can create and what we should create.

Humanity is standing at the threshold of a new biological age.

We now possess increasingly sophisticated keys to that door.

The question is no longer simply whether we can open it.

The question is whether we have developed enough wisdom, governance, and responsibility to open it safely.

Before humanity learns to redesign life, it must first learn how to take responsibility for the life it redesigns.

References

Nguyen, E., Poli, M., Durrant, M. G., Kang, B., Katrekar, D., Li, D. B., Bartie, L. J., Thomas, A. W., King, S. H., Brixi, G., Sullivan, J., Ng, M. Y., Lewis, A., Lou, A., Ermon, S., Baccus, S. A., Hernandez-Boussard, T., Ré, C., Hsu, P. D., & Hie, B. L. (2024). Sequence modeling and design from molecular to genome scale with Evo. Science, 386(6723), eado9336. https://doi.org/10.1126/science.ado9336
King, S. H., Driscoll, C. L., Li, D. B., Guo, D., Merchant, A. T., Brixi, G., Wilkinson, M. E., & Hie, B. L. (2026). Generative design of bacteriophages with genome language models. Science, 393, eaec2657. https://doi.org/10.1126/science.aec2657
Inglesby, T. V., & Hanke, M. S. (2026). AI-designed viral genomes. Science, 393, 563–564. https://doi.org/10.1126/science.aej8512
Pannu, J., Bloomfield, D., MacKnight, R., Hanke, M. S., Zhu, A., Gomes, G., et al. (2025). Dual-use capabilities of concern of biological AI models. PLOS Computational Biology, 21(5), e1012975. https://doi.org/10.1371/journal.pcbi.1012975
Wheeler, N. E. (2025). Responsible AI in biotechnology: Balancing discovery, innovation and biosecurity risks. Frontiers in Bioengineering and Biotechnology, 13, 1537471. https://doi.org/10.3389/fbioe.2025.1537471
Eskandar, K. (2026). Artificial intelligence and synthetic biology: Biosecurity risks, dual-use concerns, and governance pathways. AI and Ethics, 6, 66. https://doi.org/10.1007/s43681-025-00872-9
Baum, C., Berlips, J., Chen, W., Cui, H., Damgård, I., Dong, J., Esvelt, K. M., Foner, L., Gao, M., et al. (2026). A system capable of verifiably and privately screening global DNA synthesis. National Science Review, 13(14), nwag103. https://doi.org/10.1093/nsr/nwag103

AI가 바이러스를 설계하기 시작할 때

의학·과학적 발견·생물안보의 새로운 경계

생명을 읽는 인간에서 생명을 설계하는 인간으로

과학의 역사는 여러 면에서 인간이 자연을 이해하는 법을 배워 온 역사라고 할 수 있다.

인류는 불을 발견했고, 금속을 다루는 법을 배웠으며, 기계를 만들었다. 그리고 마침내 엄청난 속도로 정보를 처리할 수 있는 컴퓨터를 만들어냈다. 20세기에 들어서면서 생물학은 새로운 시대를 맞았다. 과학자들은 생명의 분자적 기반을 해독하기 시작했고, 21세기에 들어서는 유전정보를 읽는 것을 넘어 생물학적 시스템을 조작하고 설계할 수 있는 단계로 나아가고 있다.

이제 인류는 또 하나의 중요한 문턱에 서 있다.

인공지능이 생명의 언어를 단순히 읽는 데서 그치지 않고, 생물학적 시스템의 설계를 돕기 시작한 것이다.

이러한 변화는 더 이상 이론적인 가능성에 머물러 있지 않다. 최근 Science에 발표된 연구는 유전체 언어 모델(genome language model)을 활용하여 박테리오파지의 유전체를 생성적으로 설계하는 가능성을 실험적으로 보여주었다. 이 연구는 분자 수준에서 유전체 수준에 이르는 생물학적 서열을 모델링하도록 개발된 Evo라는 생물학적 기반 모델의 연구를 토대로 이루어졌다(Nguyen et al., 2024). 연구진은 AI가 생성한 유전체 서열 가운데 일부가 실제 실험에서 기능할 수 있음을 보여주었다. [1,2]

이 연구의 의미는 하나의 과학적 실험을 넘어선다.

AI가 생물학적 지식을 검색하고 분석하는 도구에서 생물학적 설계를 지원하는 엔진으로 진화하기 시작했다는 것을 보여주기 때문이다.

이러한 변화는 21세기 과학의 가장 중요한 발전 가운데 하나가 될 가능성이 있다.

항생제 내성과 싸우는 새로운 가능성

이 연구가 특히 주목받는 이유 가운데 하나는 항균제 내성이라는 세계적 문제와 관련되어 있기 때문이다.

현대의학은 오랫동안 항생제에 크게 의존해 왔다. 항생제는 세균 감염 치료의 혁명을 일으켰으며 수많은 의료행위를 가능하게 했다. 그러나 세균은 끊임없이 진화한다. 항생제의 선택압 아래에서 내성균이 등장하고 확산되면서 기존 치료법의 효과가 점점 떨어질 수 있다.

따라서 인류가 직면한 근본적인 과학적 질문은 다음과 같다.

생물학적 진화가 너무 빠르게 진행될 때, 의학은 어떻게 그보다 빠르게 새로운 치료법을 개발할 수 있는가?

그 가능성 가운데 하나가 박테리오파지 치료법이다.

박테리오파지는 세균을 감염시키는 바이러스다. 특정 세균을 선택적으로 공격할 수 있다는 특성 때문에, 특히 기존 항균제가 효과를 발휘하기 어려운 상황에서 치료 수단으로서 상당한 관심을 받고 있다.

그러나 문제는 특정 세균을 공격할 수 있는 적절한 파지를 찾거나 개발하는 일이다.

AI는 이 문제의 성격 자체를 바꾸고 있다.

기존에는

“자연계에 어떤 유용한 박테리오파지가 존재하는가?”

라고 물었다면,

이제는

“AI 모델을 이용하여 우리가 원하는 특성을 가진 박테리오파지를 설계할 수 있는가?”

라고 질문할 수 있게 되었다.

두 질문 사이에는 엄청난 차이가 있다.

이는 생물학적 가능성을 발견하는 단계에서 새로운 생물학적 가능성을 생성하는 단계로의 전환을 의미한다.

최근 Science에 발표된 생성형 박테리오파지 설계 연구는 이러한 전환의 중요한 개념증명(proof of concept)이 되었다. [2]

DNA라는 새로운 언어를 배우는 인공지능

이러한 변화의 의미를 이해하려면 DNA를 하나의 언어로 생각해 볼 필요가 있다.

대규모 언어 모델은 인간의 언어에서 패턴을 학습한다. 방대한 텍스트를 처리하면서 단어와 문장, 문법과 구조 사이의 관계를 학습한다.

생물학적 기반 모델은 이와 유사한 계산적 접근법을 생물학적 서열에 적용한다.

DNA는 A, C, G, T라는 네 종류의 염기가 배열된 서열로 구성된다. 이러한 서열에는 생물학적 구조와 기능과 관련된 정보가 담겨 있다. AI 모델은 대규모 유전체 데이터를 학습하면서 그 안의 패턴을 파악하고, 이를 바탕으로 생물학적 기능을 예측하거나 새로운 서열의 가능성을 탐색할 수 있다.

Evo는 이러한 발전의 중요한 이정표 가운데 하나다. Nguyen et al. (2024)은 분자 수준에서 유전체 수준에 이르는 생물학적 서열을 모델링하고 설계할 수 있는 가능성을 제시했다. [1]

그 발전 과정은 매우 흥미롭다.

AI는 처음에는 인간의 언어를 생성하는 데 사용되었다.

그다음에는 이미지, 음성, 소프트웨어 코드, 과학적 텍스트로 영역을 넓혔다.

이제 AI는 점차 생명의 언어로 들어가고 있다.

AI가 DNA의 언어를 해석하고 생성하기 시작한 것이다.

물론 DNA가 인간의 언어와 문자 그대로 동일한 것은 아니다. 생물학적 시스템은 언어보다 훨씬 복잡하다. 유전자, 단백질, 세포, 환경, 진화의 역사 등이 서로 복잡하게 상호작용하면서 생물학적 기능이 만들어진다.

그럼에도 언어 모델이라는 계산적 패러다임은 생물학적 서열 공간을 탐색하는 강력한 새로운 방법을 제공한다.

그리고 이것은 생물학적 발견의 규모와 속도를 변화시킬 가능성이 있다.

자연선택에서 계산적 탐색으로

진화는 수십억 년 동안 생물학적 가능성을 탐색해 왔다.

그러나 진화가 모든 가능한 생물학적 조합을 탐색하는 것은 아니다.

진화에는 역사적 우연성, 돌연변이, 자연선택, 생태적 상호작용, 그리고 확률적 요인이라는 제약이 존재한다.

AI는 다른 방식의 탐색을 제공한다.

충분히 발전된 AI 모델은 방대한 생물학적 서열 공간을 계산적으로 탐색하고, 자연계에서는 아직 나타나지 않았을 수도 있는 후보들을 제안할 수 있다.

물론 이것이 AI가 임의의 생명체를 자유롭게 만들어낼 수 있다는 의미는 아니다. 생물학적 기능은 여전히 화학과 물리학, 세포의 작동 원리, 진화적 적합성, 실험적 현실에 의해 제한된다.

오히려 현재 연구가 보여주는 가장 중요한 교훈 가운데 하나는 생성(generation)과 기능(functionality)은 동일하지 않다는 사실이다.

AI가 수많은 후보 서열을 생성할 수 있다고 해서 그 서열이 실제 생물학적 기능을 수행한다는 뜻은 아니다.

따라서 중요한 것은 컴퓨터가 후보를 생성하는 능력과 실험실에서 그것을 검증하는 능력을 연결하는 것이다.

AI가 제안하고,
과학이 검증하고,
실험 데이터가 다시 AI로 돌아가며,
AI가 개선된다.

이것은 과학적 발견의 새로운 패러다임이 될 수 있다.

가능성과 그 그림자

모든 혁신적인 과학기술은 어려운 질문을 만들어낸다.

AI가 유익한 목적을 위해 생물학적 시스템의 설계를 도울 수 있다면, 이러한 능력이 미래에 악용될 가능성은 없는가?

이 질문이 현재 연구의 과학적 의미를 훼손해서는 안 된다.

현재 연구되는 박테리오파지는 인간을 감염시키는 바이러스가 아니라 세균을 감염시키는 바이러스다. 연구의 주요 목적 역시 세균성 병원체와 항균제 내성 문제에 대응할 수 있는 새로운 가능성을 탐색하는 데 있다.

따라서 현재의 연구를 곧바로 인간 병원체를 만드는 기술로 묘사하는 것은 과학적으로 정확하지 않다.

그러나 앞으로의 이중용도(dual-use) 가능성에 대한 문제 제기는 필요하다.

Pannu et al. (2025)은 생물학적 AI 모델이 가질 수 있는 이중용도 위험을 분석하면서, 생물학적 능력을 가진 AI 시스템을 실제로 배포하기 전에 고위험 가능성을 평가해야 한다고 강조했다. [4]

Wheeler (2025) 역시 AI와 생명공학의 결합이 엄청난 혁신의 기회를 제공하는 동시에 새로운 생물안보 위험을 만들어내므로 기술적 안전장치, 거버넌스, 책임 있는 연구 체계가 필요하다고 지적했다. [5]

따라서 문제의 핵심은 AI로 설계된 박테리오파지가 본질적으로 위험하다는 것이 아니다.

더 근본적인 문제는 AI를 이용한 생물학적 설계라는 일반적인 능력이 미래에는 원래의 치료 목적을 넘어 다른 방향으로 활용될 가능성이다.

이것이 바로 이중용도의 본질이다.

가장 중요한 경계선은 디지털 설계와 물리적 현실 사이에 있다

AI와 생명공학의 관계를 생각할 때 반드시 구분해야 할 중요한 부분이 있다.

AI 모델은 정보를 생성할 수 있다.

그러나 그 정보가 물리적인 생물학적 물질로 전환될 때 비로소 현실적인 생물학적 영향력을 갖게 된다.

그 과정은 다음과 같이 표현할 수 있다.

AI 모델 → 생물학적 서열 → 합성 → 실험실 실험 → 생물학적 기능

따라서 안전 문제를 AI 모델 내부에서만 해결할 수는 없다.

전체 사회기술적 시스템(socio-technical system)에 안전장치를 구축해야 한다.

특히 DNA 합성 기술은 디지털 정보와 생물학적 물질을 연결하는 중요한 다리 역할을 한다.

최근의 DNA 합성 보안 연구는 이러한 방어체계의 한 사례를 보여준다. SecureDNA 접근법은 DNA 합성 주문을 자동으로 검사하면서도 검사 대상 서열의 개인정보와 기밀성을 보호할 수 있는 방법을 제시했다. 2026년 National Science Review에 발표된 연구는 이러한 접근법과 DNA 합성 보안의 중요성을 다루고 있다. [7]

핵심 원칙은 분명하다.

하나의 안전장치에 의존하지 말고 전체 과정에 보안을 내장해야 한다.

생물학적 AI를 위한 Zero Trust

바로 이 지점에서 사이버보안의 교훈이 중요해진다.

현대 사이버보안은 사용자, 장치, 네트워크 또는 데이터가 정상적으로 보인다는 이유만으로 자동적으로 신뢰해서는 안 된다는 방향으로 발전하고 있다.

Zero Trust의 핵심 원칙은 간단하다.

기본적으로 신뢰하지 말고, 지속적으로 검증하라.

이와 같은 철학은 AI 기반 생명공학에도 적용할 수 있다.

AI가 생성했다는 이유만으로 생물학적 설계를 신뢰해서는 안 된다.

통계적으로 그럴듯하다는 이유만으로 특정 서열을 안전하다고 판단해서도 안 된다.

DNA 합성 요청 역시 적절한 검증과 선별 없이 승인해서는 안 된다.

실험실 실험도 생물안전과 생물보안 평가 없이 수행해서는 안 된다.

실험에서 성공했다는 이유만으로 실제 환경에 적용해서도 안 된다.

따라서 다음과 같은 생물학적 Zero Trust 원칙을 생각해 볼 수 있다.

Design Zero Trust.
AI가 생성한 생물학적 설계를 검증한다.

Synthesis Zero Trust.
물리적으로 합성하기 전에 생물학적 서열을 검사한다.

Experiment Zero Trust.
실험실에서 구현하기 전에 위험성을 평가한다.

Deployment Zero Trust.
실제 사용에 앞서 적절한 인간과 기관의 승인을 요구한다.

이러한 접근은 혁신을 포기하자는 것이 아니다.

오히려 혁신을 ‘안전하게 설계하는 것(secure by design)’이다.

과학의 속도에 맞춰 발전해야 하는 거버넌스

가장 큰 문제 가운데 하나는 과학기술의 발전 속도가 제도와 규제의 발전 속도보다 빠를 수 있다는 점이다.

Eskandar (2026)는 AI와 합성생물학의 급속한 융합을 분석하면서 생물안보 위험이 단순히 물리적 생물학 물질에만 존재하는 것이 아니라 AI 모델, 데이터, 자동화, 합성 시스템 및 분산된 기술 인프라를 포함하는 광범위한 사회기술적 영역으로 확장되고 있다고 지적했다. [6]

이것은 매우 중요한 의미를 갖는다.

전통적인 생명공학 규제는 주로 실험실, 생물체, 물리적 물질 및 연구자를 중심으로 이루어졌다.

그러나 AI 기반 생명공학에서는 더 넓은 관점이 필요하다.

거버넌스는 다음과 같은 요소를 고려해야 한다.

생물학적 AI 모델의 학습 데이터
AI 모델에 제공되는 기능과 접근 권한
사용자 인증과 접근통제
생물학적 서열 생성
DNA 합성 선별
자동화된 실험실 시스템
실험적 검증
데이터 피드백 과정
국제적인 연구협력
새로운 기술능력에 대한 지속적인 모니터링

결국 생물안보는 더 이상 단순한 실험실 문제가 아니다.

생물안보는 점점 정보보안의 문제가 되고 있다.

그리고 정보보안은 다시 생물안보의 문제가 되고 있다.

두 분야가 서로 융합되고 있는 것이다.

과학자는 이제 설계자가 되어가고 있다

과학자의 역할도 변하고 있다.

과학의 상당 부분에서 연구자들은 자연에 이미 존재하는 것을 발견하려고 노력해 왔다.

갈릴레오는 천체의 운동을 관찰했다.

다윈은 생물의 다양성과 진화 과정을 연구했다.

분자생물학자들은 DNA의 구조와 기능을 밝혀냈다.

과학자는 기본적으로 관찰자이자 탐구자이며 발견자였다.

그러나 AI 기반 생명과학은 새로운 질문을 던진다.

자연이 지금까지 만들어내지 않은 생물학적 시스템을 우리가 설계할 수 있는가?

이 질문은 과학적 탐구의 철학 자체를 변화시킨다.

발견은 존재하는 가능성의 공간을 탐색한다.

설계는 존재할 수도 있는 가능성의 공간을 탐색한다.

AI는 후자의 공간을 탐색할 수 있는 계산 능력을 크게 확장한다.

따라서 미래의 과학자는 점점 더 발견자이면서 설계자가 될 것이다.

그리고 설계에는 특별한 책임이 따른다.

발견은 우리가 알지 못했던 것을 밝혀내는 행위다.

설계는 이전에 존재하지 않았던 것을 만들어낼 가능성을 여는 행위다.

이 차이에 대해서는 깊은 윤리적 성찰이 필요하다.

과학의 진보를 두려워할 것이 아니라 현명하게 관리해야 한다

새로운 기술이 등장할 때마다 인류는 두 가지 극단으로 흔들리는 경향이 있다.

하나는 무조건적인 낙관이다.

“기술이 인류의 모든 문제를 해결할 것이다.”

다른 하나는 무조건적인 공포다.

“기술은 결국 인류를 파괴할 것이다.”

그러나 어느 쪽도 충분하지 않다.

기술은 하나의 능력이다.

그 기술이 가져오는 결과는 기술을 둘러싼 목적, 제도, 인센티브, 안전장치, 가치관에 의해 결정된다.

AI가 설계한 박테리오파지는 미래에 난치성 세균 감염에 대응하는 새로운 치료법 개발에 기여할 수도 있다.

그것은 놀라운 가능성이다.

동시에 같은 계산적 패러다임이 무책임하게 사용될 경우 새로운 생물학적 위험을 만들어낼 수도 있다.

따라서 우리가 선택해야 할 길은 과학적 혁신을 중단하는 것도 아니고, 기술을 무비판적으로 낙관하는 것도 아니다.

우리가 추구해야 할 것은 ‘책임 있는 가속(responsible acceleration)’이다.

유익한 연구와 응용은 가속하되, 동시에 안전 연구와 거버넌스, 모니터링, 제도적 준비도 함께 가속해야 한다.

과학적 책임의 새로운 구조를 향하여

AI와 합성생물학의 융합은 새로운 과학적 안전체계를 요구할 수 있다.

이러한 체계는 네 가지 영역을 연결해야 한다.

AI 안전(AI Safety).

AI 모델이 위험한 생물학적 능력을 갖고 있는지 평가해야 한다.

사이버바이오보안(Cyberbiosecurity).

AI, 데이터베이스, DNA 합성 시스템, 실험실을 연결하는 디지털 인프라를 공격과 오용으로부터 보호해야 한다.

생물안전·생물보안(Biosafety and Biosecurity).

물리적인 실험은 엄격한 기관 차원의 안전관리 아래 이루어져야 한다.

인간의 거버넌스(Human Governance).

과학자, 대학, 산업계, 정부 및 국제기구가 공동의 규범과 책임체계를 구축해야 한다.

최근의 연구 역시 생물학적 AI의 위험을 하나의 단일한 조치만으로 해결할 수 없음을 강조하고 있다. [5]

따라서 미래 생명공학의 안전은 단지 더 좋은 AI 모델을 만드는 데 달려 있지 않다.

그보다 중요한 것은 그 AI 모델을 둘러싼 더 좋은 제도를 만드는 것이다.

새로운 문명적 전환

인류 문명은 이미 여러 차례 거대한 기술적 전환을 경험했다.

농업혁명은 인간이 자연을 경작할 수 있게 했다.

산업혁명은 인간이 물질과 에너지를 전례 없는 규모로 변형할 수 있게 했다.

디지털혁명은 인간이 정보를 처리하고 저장하며 전달할 수 있는 능력을 폭발적으로 확대했다.

그리고 지금 등장하고 있는 AI-생명공학 혁명은 인간이 생물학적 정보를 읽고, 예측하고, 점점 더 설계할 수 있는 시대를 열 가능성이 있다.

이것은 단순한 기술 업그레이드가 아니다.

하나의 새로운 문명사적 전환일 수 있다.

미래의 실험실을 상상해 보자.

AI가 생물학적 설계를 제안한다.

과학자가 그 설계를 평가한다.

자동화된 실험실이 통제된 실험을 수행한다.

센서가 결과를 수집한다.

데이터가 다시 AI 시스템으로 돌아간다.

AI는 실험 결과를 학습한다.

새로운 후보가 등장한다.

그리고 다시 실험이 시작된다.

AI → 설계 → 실험 → 데이터 → AI

실험실은 하나의 지능형 피드백 시스템이 된다.

계산과 실험의 경계는 점점 더 흐려진다.

과학적 발견은 더욱 빠르고 반복적이며 창의적인 과정이 될 수 있다.

그러나 동시에 더 높은 수준의 책임 있는 거버넌스가 필요해진다.

마지막 질문은 AI가 아니라 인간에 관한 것이다

AI가 설계하는 생물학적 시스템이 우리에게 던지는 가장 중요한 질문은 단순히 다음과 같은 것이 아니다.

“AI가 바이러스를 설계할 수 있는가?”

최근의 과학적 증거는 AI가 적어도 비교적 단순한 박테리오파지 시스템에서 기능하는 바이러스 유전체 설계에 기여할 수 있음을 보여주고 있다. 2026년 Science 논문은 이러한 가능성을 단순한 추측이 아니라 실제 과학적 성과로 한 단계 끌어올렸다. [2,3]

그러나 더 깊은 질문은 이것이다.

“인간은 생명에 대한 기술적 능력이 커질수록 그에 상응하는 책임을 질 준비가 되어 있는가?”

인류는 생명의 언어를 읽는 법을 배우고 있다.

그 언어를 모델링하는 법도 배우고 있다.

생물학적 서열을 생성하는 법도 배우고 있다.

그리고 계산적으로 생성된 유전체 설계가 실제로 기능하는 생물학적 시스템이 될 수 있다는 사실을 보여주기 시작했다.

이러한 성취는 과학적 흥분을 불러일으킬 만하다.

그러나 동시에 겸손도 요구한다.

문명은 더 강력해진다고 해서 더 지혜로워지는 것이 아니다.

더 큰 힘에 더 큰 책임이 동반될 때 비로소 문명은 진보한다.

AI가 생명을 설계하는 시대에 가장 중요한 기술은 더 강력한 AI 모델이 아닐지도 모른다.

그것은 훨씬 오래된, 그리고 훨씬 더 인간적인 능력일 수 있다.

지혜—우리가 무엇을 만들 수 있는지를 넘어 무엇을 만들어야 하는지를 판단하는 능력이다.

인류는 새로운 생명의 시대를 여는 문 앞에 서 있다.

우리는 이제 그 문을 열 수 있는 점점 더 정교한 열쇠를 갖게 되었다.

이제 중요한 질문은 단순히 우리가 그 문을 열 수 있느냐가 아니다.

우리가 충분한 지혜와 거버넌스와 책임을 갖고 그 문을 안전하게 열 수 있느냐이다.

인류가 생명을 다시 설계하는 법을 배우기 전에, 먼저 자신이 설계하는 생명에 대해 책임지는 법부터 배워야 한다.

참고문헌

1. Nguyen, E., Poli, M., Durrant, M. G., Kang, B., Katrekar, D., Li, D. B., Bartie, L. J., Thomas, A. W., King, S. H., Brixi, G., Sullivan, J., Ng, M. Y., Lewis, A., Lou, A., Ermon, S., Baccus, S. A., Hernandez-Boussard, T., Ré, C., Hsu, P. D., & Hie, B. L. (2024). Sequence modeling and design from molecular to genome scale with Evo. Science, 386(6723), eado9336. https://doi.org/10.1126/science.ado9336

2. King, S. H., Driscoll, C. L., Li, D. B., Guo, D., Merchant, A. T., Brixi, G., Wilkinson, M. E., & Hie, B. L. (2026). Generative design of bacteriophages with genome language models. Science, 393, eaec2657. https://doi.org/10.1126/science.aec2657

3. Inglesby, T. V., & Hanke, M. S. (2026). AI-designed viral genomes. Science, 393, 563–564. https://doi.org/10.1126/science.aej8512

4. Pannu, J., Bloomfield, D., MacKnight, R., Hanke, M. S., Zhu, A., Gomes, G., et al. (2025). Dual-use capabilities of concern of biological AI models. PLOS Computational Biology, 21(5), e1012975. https://doi.org/10.1371/journal.pcbi.1012975

5. Wheeler, N. E. (2025). Responsible AI in biotechnology: Balancing discovery, innovation and biosecurity risks. Frontiers in Bioengineering and Biotechnology, 13, 1537471. https://doi.org/10.3389/fbioe.2025.1537471

6. Eskandar, K. (2026). Artificial intelligence and synthetic biology: Biosecurity risks, dual-use concerns, and governance pathways. AI and Ethics, 6, 66. https://doi.org/10.1007/s43681-025-00872-9

7. Baum, C., Berlips, J., Chen, W., Cui, H., Damgård, I., Dong, J., Esvelt, K. M., Foner, L., Gao, M., et al. (2026). A system capable of verifiably and privately screening global DNA synthesis. National Science Review, 13(14), nwag103. https://doi.org/10.1093/nsr/nwag103

2026년 8월 29일

{솔티}

Prof. Dr. Young Choi (Editor in Chief) — Regent University

Young B. Choi is a Professor in the Department of Engineering & Computer Science at Regent University. He published 38 books with ‘Selected Readings in Cybersecurity’ (2018) (over 800 copies archived globally at university/college libraries around the world) and ‘Cybersecurity Applications and Artificial Intelligence’ (2023) available in seven major world languages. He proposed the world’s first global and universal telecommunications “Service Order Handling (SOH)” Model (T-SOH Model) (1995) with Dr. Adrian Tang. With this innovative research work, he received the IEEE NOMS ’96 Best Paper Award and became the first recipient of the Outstanding Contribution Award of the TeleManagement Forum in 1998. His research areas include Natural Language Processing-focused AI, AI-applied cybersecurity, network and telecom service management, and Korean studies on Gani Choi Rip’s Jeonggwan (靜觀: Quiet Contemplation) philosophy and Shilhak ( 實學: Practical Learning).

Suggested Citation:

Choi, Y. B. (2026, August 29). When AI Begins to Design Viruses: A New Frontier of Medicine, Scientific Discovery, and Biosecurity. K-GSP.

K-Global Scholars & Professionals Forum

When AI Begins to Design Viruses / AI가 바이러스를…