Blame SOURCES/gcc11-Wbidi-chars.patch

3de30f
commit 51c500269bf53749b107807d84271385fad35628
3de30f
Author: Marek Polacek <polacek@redhat.com>
3de30f
Date:   Wed Oct 6 14:33:59 2021 -0400
3de30f
3de30f
    libcpp: Implement -Wbidi-chars for CVE-2021-42574 [PR103026]
3de30f
    
3de30f
    From a link below:
3de30f
    "An issue was discovered in the Bidirectional Algorithm in the Unicode
3de30f
    Specification through 14.0. It permits the visual reordering of
3de30f
    characters via control sequences, which can be used to craft source code
3de30f
    that renders different logic than the logical ordering of tokens
3de30f
    ingested by compilers and interpreters. Adversaries can leverage this to
3de30f
    encode source code for compilers accepting Unicode such that targeted
3de30f
    vulnerabilities are introduced invisibly to human reviewers."
3de30f
    
3de30f
    More info:
3de30f
    https://nvd.nist.gov/vuln/detail/CVE-2021-42574
3de30f
    https://trojansource.codes/
3de30f
    
3de30f
    This is not a compiler bug.  However, to mitigate the problem, this patch
3de30f
    implements -Wbidi-chars=[none|unpaired|any] to warn about possibly
3de30f
    misleading Unicode bidirectional control characters the preprocessor may
3de30f
    encounter.
3de30f
    
3de30f
    The default is =unpaired, which warns about improperly terminated
3de30f
    bidirectional control characters; e.g. a LRE without its corresponding PDF.
3de30f
    The level =any warns about any use of bidirectional control characters.
3de30f
    
3de30f
    This patch handles both UCNs and UTF-8 characters.  UCNs designating
3de30f
    bidi characters in identifiers are accepted since r204886.  Then r217144
3de30f
    enabled -fextended-identifiers by default.  Extended characters in C/C++
3de30f
    identifiers have been accepted since r275979.  However, this patch still
3de30f
    warns about mixing UTF-8 and UCN bidi characters; there seems to be no
3de30f
    good reason to allow mixing them.
3de30f
    
3de30f
    We warn in different contexts: comments (both C and C++-style), string
3de30f
    literals, character constants, and identifiers.  Expectedly, UCNs are ignored
3de30f
    in comments and raw string literals.  The bidirectional control characters
3de30f
    can nest so this patch handles that as well.
3de30f
    
3de30f
    I have not included nor tested this at all with Fortran (which also has
3de30f
    string literals and line comments).
3de30f
    
3de30f
    Dave M. posted patches improving diagnostic involving Unicode characters.
3de30f
    This patch does not make use of this new infrastructure yet.
3de30f
    
3de30f
            PR preprocessor/103026
3de30f
    
3de30f
    gcc/c-family/ChangeLog:
3de30f
    
3de30f
            * c.opt (Wbidi-chars, Wbidi-chars=): New option.
3de30f
    
3de30f
    gcc/ChangeLog:
3de30f
    
3de30f
            * doc/invoke.texi: Document -Wbidi-chars.
3de30f
    
3de30f
    libcpp/ChangeLog:
3de30f
    
3de30f
            * include/cpplib.h (enum cpp_bidirectional_level): New.
3de30f
            (struct cpp_options): Add cpp_warn_bidirectional.
3de30f
            (enum cpp_warning_reason): Add CPP_W_BIDIRECTIONAL.
3de30f
            * internal.h (struct cpp_reader): Add warn_bidi_p member
3de30f
            function.
3de30f
            * init.c (cpp_create_reader): Set cpp_warn_bidirectional.
3de30f
            * lex.c (bidi): New namespace.
3de30f
            (get_bidi_utf8): New function.
3de30f
            (get_bidi_ucn): Likewise.
3de30f
            (maybe_warn_bidi_on_close): Likewise.
3de30f
            (maybe_warn_bidi_on_char): Likewise.
3de30f
            (_cpp_skip_block_comment): Implement warning about bidirectional
3de30f
            control characters.
3de30f
            (skip_line_comment): Likewise.
3de30f
            (forms_identifier_p): Likewise.
3de30f
            (lex_identifier): Likewise.
3de30f
            (lex_string): Likewise.
3de30f
            (lex_raw_string): Likewise.
3de30f
    
3de30f
    gcc/testsuite/ChangeLog:
3de30f
    
3de30f
            * c-c++-common/Wbidi-chars-1.c: New test.
3de30f
            * c-c++-common/Wbidi-chars-2.c: New test.
3de30f
            * c-c++-common/Wbidi-chars-3.c: New test.
3de30f
            * c-c++-common/Wbidi-chars-4.c: New test.
3de30f
            * c-c++-common/Wbidi-chars-5.c: New test.
3de30f
            * c-c++-common/Wbidi-chars-6.c: New test.
3de30f
            * c-c++-common/Wbidi-chars-7.c: New test.
3de30f
            * c-c++-common/Wbidi-chars-8.c: New test.
3de30f
            * c-c++-common/Wbidi-chars-9.c: New test.
3de30f
            * c-c++-common/Wbidi-chars-10.c: New test.
3de30f
            * c-c++-common/Wbidi-chars-11.c: New test.
3de30f
            * c-c++-common/Wbidi-chars-12.c: New test.
3de30f
            * c-c++-common/Wbidi-chars-13.c: New test.
3de30f
            * c-c++-common/Wbidi-chars-14.c: New test.
3de30f
            * c-c++-common/Wbidi-chars-15.c: New test.
3de30f
            * c-c++-common/Wbidi-chars-16.c: New test.
3de30f
            * c-c++-common/Wbidi-chars-17.c: New test.
3de30f
3de30f
diff --git a/gcc/c-family/c.opt b/gcc/c-family/c.opt
3de30f
index 8a4cd634f77..3976fc368db 100644
3de30f
--- a/gcc/c-family/c.opt
3de30f
+++ b/gcc/c-family/c.opt
3de30f
@@ -374,6 +374,30 @@ Wbad-function-cast
3de30f
 C ObjC Var(warn_bad_function_cast) Warning
3de30f
 Warn about casting functions to incompatible types.
3de30f
 
3de30f
+Wbidi-chars
3de30f
+C ObjC C++ ObjC++ Warning Alias(Wbidi-chars=,any,none)
3de30f
+;
3de30f
+
3de30f
+Wbidi-chars=
3de30f
+C ObjC C++ ObjC++ RejectNegative Joined Warning CPP(cpp_warn_bidirectional) CppReason(CPP_W_BIDIRECTIONAL) Var(warn_bidirectional) Init(bidirectional_unpaired) Enum(cpp_bidirectional_level)
3de30f
+-Wbidi-chars=[none|unpaired|any] Warn about UTF-8 bidirectional control characters.
3de30f
+
3de30f
+; Required for these enum values.
3de30f
+SourceInclude
3de30f
+cpplib.h
3de30f
+
3de30f
+Enum
3de30f
+Name(cpp_bidirectional_level) Type(int) UnknownError(argument %qs to %<-Wbidi-chars%> not recognized)
3de30f
+
3de30f
+EnumValue
3de30f
+Enum(cpp_bidirectional_level) String(none) Value(bidirectional_none)
3de30f
+
3de30f
+EnumValue
3de30f
+Enum(cpp_bidirectional_level) String(unpaired) Value(bidirectional_unpaired)
3de30f
+
3de30f
+EnumValue
3de30f
+Enum(cpp_bidirectional_level) String(any) Value(bidirectional_any)
3de30f
+
3de30f
 Wbool-compare
3de30f
 C ObjC C++ ObjC++ Var(warn_bool_compare) Warning LangEnabledBy(C ObjC C++ ObjC++,Wall)
3de30f
 Warn about boolean expression compared with an integer value different from true/false.
3de30f
diff --git a/gcc/doc/invoke.texi b/gcc/doc/invoke.texi
3de30f
index 6070288856c..a22758d18ee 100644
3de30f
--- a/gcc/doc/invoke.texi
3de30f
+++ b/gcc/doc/invoke.texi
3de30f
@@ -325,7 +325,9 @@ Objective-C and Objective-C++ Dialects}.
3de30f
 -Warith-conversion @gol
3de30f
 -Warray-bounds  -Warray-bounds=@var{n} @gol
3de30f
 -Wno-attributes  -Wattribute-alias=@var{n} -Wno-attribute-alias @gol
3de30f
--Wno-attribute-warning  -Wbool-compare  -Wbool-operation @gol
3de30f
+-Wno-attribute-warning  @gol
3de30f
+-Wbidi-chars=@r{[}none@r{|}unpaired@r{|}any@r{]} @gol
3de30f
+-Wbool-compare  -Wbool-operation @gol
3de30f
 -Wno-builtin-declaration-mismatch @gol
3de30f
 -Wno-builtin-macro-redefined  -Wc90-c99-compat  -Wc99-c11-compat @gol
3de30f
 -Wc11-c2x-compat @gol
3de30f
@@ -7557,6 +7559,23 @@ Attributes considered include @code{alloc_align}, @code{alloc_size},
3de30f
 This is the default.  You can disable these warnings with either
3de30f
 @option{-Wno-attribute-alias} or @option{-Wattribute-alias=0}.
3de30f
 
3de30f
+@item -Wbidi-chars=@r{[}none@r{|}unpaired@r{|}any@r{]}
3de30f
+@opindex Wbidi-chars=
3de30f
+@opindex Wbidi-chars
3de30f
+@opindex Wno-bidi-chars
3de30f
+Warn about possibly misleading UTF-8 bidirectional control characters in
3de30f
+comments, string literals, character constants, and identifiers.  Such
3de30f
+characters can change left-to-right writing direction into right-to-left
3de30f
+(and vice versa), which can cause confusion between the logical order and
3de30f
+visual order.  This may be dangerous; for instance, it may seem that a piece
3de30f
+of code is not commented out, whereas it in fact is.
3de30f
+
3de30f
+There are three levels of warning supported by GCC@.  The default is
3de30f
+@option{-Wbidi-chars=unpaired}, which warns about improperly terminated
3de30f
+bidi contexts.  @option{-Wbidi-chars=none} turns the warning off.
3de30f
+@option{-Wbidi-chars=any} warns about any use of bidirectional control
3de30f
+characters.
3de30f
+
3de30f
 @item -Wbool-compare
3de30f
 @opindex Wno-bool-compare
3de30f
 @opindex Wbool-compare
3de30f
diff --git a/gcc/testsuite/c-c++-common/Wbidi-chars-1.c b/gcc/testsuite/c-c++-common/Wbidi-chars-1.c
3de30f
new file mode 100644
3de30f
index 00000000000..34f5ac19271
3de30f
--- /dev/null
3de30f
+++ b/gcc/testsuite/c-c++-common/Wbidi-chars-1.c
3de30f
@@ -0,0 +1,12 @@
3de30f
+/* PR preprocessor/103026 */
3de30f
+/* { dg-do compile } */
3de30f
+
3de30f
+int main() {
3de30f
+    int isAdmin = 0;
3de30f
+    /*‮ } ⁦if (isAdmin)⁩ ⁦ begin admins only */
3de30f
+/* { dg-warning "bidirectional" "" { target *-*-* } .-1 } */
3de30f
+        __builtin_printf("You are an admin.\n");
3de30f
+    /* end admins only ‮ { ⁦*/
3de30f
+/* { dg-warning "bidirectional" "" { target *-*-* } .-1 } */
3de30f
+    return 0;
3de30f
+}
3de30f
diff --git a/gcc/testsuite/c-c++-common/Wbidi-chars-10.c b/gcc/testsuite/c-c++-common/Wbidi-chars-10.c
3de30f
new file mode 100644
3de30f
index 00000000000..3f851b69e65
3de30f
--- /dev/null
3de30f
+++ b/gcc/testsuite/c-c++-common/Wbidi-chars-10.c
3de30f
@@ -0,0 +1,27 @@
3de30f
+/* PR preprocessor/103026 */
3de30f
+/* { dg-do compile } */
3de30f
+/* { dg-options "-Wbidi-chars=unpaired" } */
3de30f
+/* More nesting testing.  */
3de30f
+
3de30f
+/* RLE‫ LRI⁦ PDF‬ PDI⁩*/
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int LRE_\u202a_PDF_\u202c;
3de30f
+int LRE_\u202a_PDF_\u202c_LRE_\u202a_PDF_\u202c;
3de30f
+int LRE_\u202a_LRI_\u2066_PDF_\u202c_PDI_\u2069;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int RLE_\u202b_RLI_\u2067_PDF_\u202c_PDI_\u2069;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int RLE_\u202b_RLI_\u2067_PDI_\u2069_PDF_\u202c;
3de30f
+int FSI_\u2068_LRO_\u202d_PDI_\u2069_PDF_\u202c;
3de30f
+int FSI_\u2068;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int FSI_\u2068_PDI_\u2069;
3de30f
+int FSI_\u2068_FSI_\u2068_PDI_\u2069;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int RLI_\u2067_RLI_\u2067_RLI_\u2067_RLI_\u2067_RLI_\u2067_RLI_\u2067_RLI_\u2067_PDI_\u2069_PDI_\u2069_PDI_\u2069_PDI_\u2069_PDI_\u2069_PDI_\u2069_PDI_\u2069;
3de30f
+int RLI_\u2067_RLI_\u2067_RLI_\u2067_RLI_\u2067_RLI_\u2067_RLI_\u2067_RLI_\u2067_PDI_\u2069_PDI_\u2069_PDI_\u2069_PDI_\u2069_PDI_\u2069_PDI_\u2069;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int RLI_\u2067_RLI_\u2067_RLI_\u2067_RLI_\u2067_RLI_\u2067_RLI_\u2067_RLI_\u2067_PDI_\u2069_PDI_\u2069_PDI_\u2069_PDI_\u2069_PDI_\u2069_PDI_\u2069_PDF_\u202c;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int RLI_\u2067_RLI_\u2067_RLI_\u2067_RLI_\u2067_FSI_\u2068_PDI_\u2069_PDI_\u2069_PDI_\u2069_PDI_\u2069;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
diff --git a/gcc/testsuite/c-c++-common/Wbidi-chars-11.c b/gcc/testsuite/c-c++-common/Wbidi-chars-11.c
3de30f
new file mode 100644
3de30f
index 00000000000..270ce2368a9
3de30f
--- /dev/null
3de30f
+++ b/gcc/testsuite/c-c++-common/Wbidi-chars-11.c
3de30f
@@ -0,0 +1,13 @@
3de30f
+/* PR preprocessor/103026 */
3de30f
+/* { dg-do compile } */
3de30f
+/* { dg-options "-Wbidi-chars=unpaired" } */
3de30f
+/* Test that we warn when mixing UCN and UTF-8.  */
3de30f
+
3de30f
+int LRE_‪_PDF_\u202c;
3de30f
+/* { dg-warning "mismatch" "" { target *-*-* } .-1 } */
3de30f
+int LRE_\u202a_PDF_‬_;
3de30f
+/* { dg-warning "mismatch" "" { target *-*-* } .-1 } */
3de30f
+const char *s1 = "LRE_‪_PDF_\u202c";
3de30f
+/* { dg-warning "mismatch" "" { target *-*-* } .-1 } */
3de30f
+const char *s2 = "LRE_\u202a_PDF_‬";
3de30f
+/* { dg-warning "mismatch" "" { target *-*-* } .-1 } */
3de30f
diff --git a/gcc/testsuite/c-c++-common/Wbidi-chars-12.c b/gcc/testsuite/c-c++-common/Wbidi-chars-12.c
3de30f
new file mode 100644
3de30f
index 00000000000..b07eec1da91
3de30f
--- /dev/null
3de30f
+++ b/gcc/testsuite/c-c++-common/Wbidi-chars-12.c
3de30f
@@ -0,0 +1,19 @@
3de30f
+/* PR preprocessor/103026 */
3de30f
+/* { dg-do compile { target { c || c++11 } } } */
3de30f
+/* { dg-options "-Wbidi-chars=any" } */
3de30f
+/* Test raw strings.  */
3de30f
+
3de30f
+const char *s1 = R"(a b c LRE‪ 1 2 3 PDF‬ x y z)";
3de30f
+/* { dg-warning "U\\+202A" "" { target *-*-* } .-1 } */
3de30f
+const char *s2 = R"(a b c RLE‫ 1 2 3 PDF‬ x y z)";
3de30f
+/* { dg-warning "U\\+202B" "" { target *-*-* } .-1 } */
3de30f
+const char *s3 = R"(a b c LRO‭ 1 2 3 PDF‬ x y z)";
3de30f
+/* { dg-warning "U\\+202D" "" { target *-*-* } .-1 } */
3de30f
+const char *s4 = R"(a b c RLO‮ 1 2 3 PDF‬ x y z)";
3de30f
+/* { dg-warning "U\\+202E" "" { target *-*-* } .-1 } */
3de30f
+const char *s7 = R"(a b c FSI⁨ 1 2 3 PDI⁩ x y) z";
3de30f
+/* { dg-warning "U\\+2068" "" { target *-*-* } .-1 } */
3de30f
+const char *s8 = R"(a b c PDI⁩ x y )z";
3de30f
+/* { dg-warning "U\\+2069" "" { target *-*-* } .-1 } */
3de30f
+const char *s9 = R"(a b c PDF‬ x y z)";
3de30f
+/* { dg-warning "U\\+202C" "" { target *-*-* } .-1 } */
3de30f
diff --git a/gcc/testsuite/c-c++-common/Wbidi-chars-13.c b/gcc/testsuite/c-c++-common/Wbidi-chars-13.c
3de30f
new file mode 100644
3de30f
index 00000000000..b2dd9fde752
3de30f
--- /dev/null
3de30f
+++ b/gcc/testsuite/c-c++-common/Wbidi-chars-13.c
3de30f
@@ -0,0 +1,17 @@
3de30f
+/* PR preprocessor/103026 */
3de30f
+/* { dg-do compile { target { c || c++11 } } } */
3de30f
+/* { dg-options "-Wbidi-chars=unpaired" } */
3de30f
+/* Test raw strings.  */
3de30f
+
3de30f
+const char *s1 = R"(a b c LRE‪ 1 2 3)";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+const char *s2 = R"(a b c RLE‫ 1 2 3)";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+const char *s3 = R"(a b c LRO‭ 1 2 3)";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+const char *s4 = R"(a b c FSI⁨ 1 2 3)";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+const char *s5 = R"(a b c LRI⁦ 1 2 3)";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+const char *s6 = R"(a b c RLI⁧ 1 2 3)";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
diff --git a/gcc/testsuite/c-c++-common/Wbidi-chars-14.c b/gcc/testsuite/c-c++-common/Wbidi-chars-14.c
3de30f
new file mode 100644
3de30f
index 00000000000..ba5f75d9553
3de30f
--- /dev/null
3de30f
+++ b/gcc/testsuite/c-c++-common/Wbidi-chars-14.c
3de30f
@@ -0,0 +1,38 @@
3de30f
+/* PR preprocessor/103026 */
3de30f
+/* { dg-do compile } */
3de30f
+/* { dg-options "-Wbidi-chars=unpaired" } */
3de30f
+/* Test PDI handling, which also pops any subsequent LREs, RLEs, LROs,
3de30f
+   or RLOs.  */
3de30f
+
3de30f
+/* LRI_⁦_LRI_⁦_RLE_‫_RLE_‫_RLE_‫_PDI_⁩*/
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+// LRI_⁦_RLE_‫_RLE_‫_RLE_‫_PDI_⁩
3de30f
+// LRI_⁦_RLO_‮_RLE_‫_RLE_‫_PDI_⁩
3de30f
+// LRI_⁦_RLO_‮_RLE_‫_PDI_⁩
3de30f
+// FSI_⁨_RLO_‮_PDI_⁩
3de30f
+// FSI_⁨_FSI_⁨_RLO_‮_PDI_⁩
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+
3de30f
+int LRI_\u2066_LRI_\u2066_LRE_\u202a_LRE_\u202a_LRE_\u202a_PDI_\u2069;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int LRI_\u2066_LRI_\u2066_LRE_\u202a_LRE_\u202a_LRE_\u202a_PDI_\u2069_PDI_\u2069;
3de30f
+int LRI_\u2066_LRI_\u2066_LRI_\u2066_LRE_\u202a_LRE_\u202a_LRE_\u202a_PDI_\u2069_PDI_\u2069;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int PDI_\u2069;
3de30f
+int LRI_\u2066_PDI_\u2069;
3de30f
+int RLI_\u2067_PDI_\u2069;
3de30f
+int LRE_\u202a_LRI_\u2066_PDI_\u2069;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int LRI_\u2066_LRE_\u202a_PDF_\u202c_PDI_\u2069;
3de30f
+int LRI_\u2066_LRE_\u202a_LRE_\u202a_PDF_\u202c_PDI_\u2069;
3de30f
+int RLI_\u2067_LRI_\u2066_LRE_\u202a_LRE_\u202a_PDF_\u202c_PDI_\u2069;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int FSI_\u2068_LRI_\u2066_LRE_\u202a_LRE_\u202a_PDF_\u202c_PDI_\u2069;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int RLO_\u202e_PDI_\u2069;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int RLI_\u2067_PDI_\u2069_RLI_\u2067;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int FSI_\u2068_PDF_\u202c_PDI_\u2069;
3de30f
+int FSI_\u2068_FSI_\u2068_PDF_\u202c_PDI_\u2069;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
diff --git a/gcc/testsuite/c-c++-common/Wbidi-chars-15.c b/gcc/testsuite/c-c++-common/Wbidi-chars-15.c
3de30f
new file mode 100644
3de30f
index 00000000000..a0ce8ff5e2c
3de30f
--- /dev/null
3de30f
+++ b/gcc/testsuite/c-c++-common/Wbidi-chars-15.c
3de30f
@@ -0,0 +1,59 @@
3de30f
+/* PR preprocessor/103026 */
3de30f
+/* { dg-do compile } */
3de30f
+/* { dg-options "-Wbidi-chars=unpaired" } */
3de30f
+/* Test unpaired bidi control chars in multiline comments.  */
3de30f
+
3de30f
+/*
3de30f
+ * LRE‪ end
3de30f
+ */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-2 } */
3de30f
+/*
3de30f
+ * RLE‫ end
3de30f
+ */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-2 } */
3de30f
+/*
3de30f
+ * LRO‭ end
3de30f
+ */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-2 } */
3de30f
+/*
3de30f
+ * RLO‮ end
3de30f
+ */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-2 } */
3de30f
+/*
3de30f
+ * LRI⁦ end
3de30f
+ */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-2 } */
3de30f
+/*
3de30f
+ * RLI⁧ end
3de30f
+ */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-2 } */
3de30f
+/*
3de30f
+ * FSI⁨ end
3de30f
+ */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-2 } */
3de30f
+/* LRE‪
3de30f
+   PDF‬ */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-2 } */
3de30f
+/* FSI⁨
3de30f
+   PDI⁩ */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-2 } */
3de30f
+
3de30f
+/* LRE<‪>
3de30f
+ *
3de30f
+ */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-3 } */
3de30f
+
3de30f
+/*
3de30f
+ * LRE<‪>
3de30f
+ */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-2 } */
3de30f
+
3de30f
+/*
3de30f
+ *
3de30f
+ * LRE<‪> */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+
3de30f
+/* RLI<⁧> */ /* PDI<⁩> */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* LRE<‪> */ /* PDF<‬> */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
diff --git a/gcc/testsuite/c-c++-common/Wbidi-chars-16.c b/gcc/testsuite/c-c++-common/Wbidi-chars-16.c
3de30f
new file mode 100644
3de30f
index 00000000000..baa0159861c
3de30f
--- /dev/null
3de30f
+++ b/gcc/testsuite/c-c++-common/Wbidi-chars-16.c
3de30f
@@ -0,0 +1,26 @@
3de30f
+/* PR preprocessor/103026 */
3de30f
+/* { dg-do compile } */
3de30f
+/* { dg-options "-Wbidi-chars=any" } */
3de30f
+/* Test LTR/RTL chars.  */
3de30f
+
3de30f
+/* LTR<‎> */
3de30f
+/* { dg-warning "U\\+200E" "" { target *-*-* } .-1 } */
3de30f
+// LTR<‎>
3de30f
+/* { dg-warning "U\\+200E" "" { target *-*-* } .-1 } */
3de30f
+/* RTL<‏> */
3de30f
+/* { dg-warning "U\\+200F" "" { target *-*-* } .-1 } */
3de30f
+// RTL<‏>
3de30f
+/* { dg-warning "U\\+200F" "" { target *-*-* } .-1 } */
3de30f
+
3de30f
+const char *s1 = "LTR<‎>";
3de30f
+/* { dg-warning "U\\+200E" "" { target *-*-* } .-1 } */
3de30f
+const char *s2 = "LTR\u200e";
3de30f
+/* { dg-warning "U\\+200E" "" { target *-*-* } .-1 } */
3de30f
+const char *s3 = "LTR\u200E";
3de30f
+/* { dg-warning "U\\+200E" "" { target *-*-* } .-1 } */
3de30f
+const char *s4 = "RTL<‏>";
3de30f
+/* { dg-warning "U\\+200F" "" { target *-*-* } .-1 } */
3de30f
+const char *s5 = "RTL\u200f";
3de30f
+/* { dg-warning "U\\+200F" "" { target *-*-* } .-1 } */
3de30f
+const char *s6 = "RTL\u200F";
3de30f
+/* { dg-warning "U\\+200F" "" { target *-*-* } .-1 } */
3de30f
diff --git a/gcc/testsuite/c-c++-common/Wbidi-chars-17.c b/gcc/testsuite/c-c++-common/Wbidi-chars-17.c
3de30f
new file mode 100644
3de30f
index 00000000000..07cb4321f96
3de30f
--- /dev/null
3de30f
+++ b/gcc/testsuite/c-c++-common/Wbidi-chars-17.c
3de30f
@@ -0,0 +1,30 @@
3de30f
+/* PR preprocessor/103026 */
3de30f
+/* { dg-do compile } */
3de30f
+/* { dg-options "-Wbidi-chars=unpaired" } */
3de30f
+/* Test LTR/RTL chars.  */
3de30f
+
3de30f
+/* LTR<‎> */
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+// LTR<‎>
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* RTL<‏> */
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+// RTL<‏>
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int ltr_\u200e;
3de30f
+/* { dg-error "universal character " "" { target *-*-* } .-1 } */
3de30f
+int rtl_\u200f;
3de30f
+/* { dg-error "universal character " "" { target *-*-* } .-1 } */
3de30f
+
3de30f
+const char *s1 = "LTR<‎>";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+const char *s2 = "LTR\u200e";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+const char *s3 = "LTR\u200E";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+const char *s4 = "RTL<‏>";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+const char *s5 = "RTL\u200f";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+const char *s6 = "RTL\u200F";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
diff --git a/gcc/testsuite/c-c++-common/Wbidi-chars-2.c b/gcc/testsuite/c-c++-common/Wbidi-chars-2.c
3de30f
new file mode 100644
3de30f
index 00000000000..2340374f276
3de30f
--- /dev/null
3de30f
+++ b/gcc/testsuite/c-c++-common/Wbidi-chars-2.c
3de30f
@@ -0,0 +1,9 @@
3de30f
+/* PR preprocessor/103026 */
3de30f
+/* { dg-do compile } */
3de30f
+
3de30f
+int main() {
3de30f
+    /* Say hello; newline⁧/*/ return 0 ;
3de30f
+/* { dg-warning "bidirectional" "" { target *-*-* } .-1 } */
3de30f
+    __builtin_printf("Hello world.\n");
3de30f
+    return 0;
3de30f
+}
3de30f
diff --git a/gcc/testsuite/c-c++-common/Wbidi-chars-3.c b/gcc/testsuite/c-c++-common/Wbidi-chars-3.c
3de30f
new file mode 100644
3de30f
index 00000000000..9dc7edb6e64
3de30f
--- /dev/null
3de30f
+++ b/gcc/testsuite/c-c++-common/Wbidi-chars-3.c
3de30f
@@ -0,0 +1,11 @@
3de30f
+/* PR preprocessor/103026 */
3de30f
+/* { dg-do compile } */
3de30f
+
3de30f
+int main() {
3de30f
+    const char* access_level = "user";
3de30f
+    if (__builtin_strcmp(access_level, "user‮ ⁦// Check if admin⁩ ⁦")) {
3de30f
+/* { dg-warning "bidirectional" "" { target *-*-* } .-1 } */
3de30f
+        __builtin_printf("You are an admin.\n");
3de30f
+    }
3de30f
+    return 0;
3de30f
+}
3de30f
diff --git a/gcc/testsuite/c-c++-common/Wbidi-chars-4.c b/gcc/testsuite/c-c++-common/Wbidi-chars-4.c
3de30f
new file mode 100644
3de30f
index 00000000000..639e5c62e88
3de30f
--- /dev/null
3de30f
+++ b/gcc/testsuite/c-c++-common/Wbidi-chars-4.c
3de30f
@@ -0,0 +1,188 @@
3de30f
+/* PR preprocessor/103026 */
3de30f
+/* { dg-do compile } */
3de30f
+/* { dg-options "-Wbidi-chars=any -Wno-multichar -Wno-overflow" } */
3de30f
+/* Test all bidi chars in various contexts (identifiers, comments,
3de30f
+   string literals, character constants), both UCN and UTF-8.  The bidi
3de30f
+   chars here are properly terminated, except for the character constants.  */
3de30f
+
3de30f
+/* a b c LRE‪ 1 2 3 PDF‬ x y z */
3de30f
+/* { dg-warning "U\\+202A" "" { target *-*-* } .-1 } */
3de30f
+/* a b c RLE‫ 1 2 3 PDF‬ x y z */
3de30f
+/* { dg-warning "U\\+202B" "" { target *-*-* } .-1 } */
3de30f
+/* a b c LRO‭ 1 2 3 PDF‬ x y z */
3de30f
+/* { dg-warning "U\\+202D" "" { target *-*-* } .-1 } */
3de30f
+/* a b c RLO‮ 1 2 3 PDF‬ x y z */
3de30f
+/* { dg-warning "U\\+202E" "" { target *-*-* } .-1 } */
3de30f
+/* a b c LRI⁦ 1 2 3 PDI⁩ x y z */
3de30f
+/* { dg-warning "U\\+2066" "" { target *-*-* } .-1 } */
3de30f
+/* a b c RLI⁧ 1 2 3 PDI⁩ x y */
3de30f
+/* { dg-warning "U\\+2067" "" { target *-*-* } .-1 } */
3de30f
+/* a b c FSI⁨ 1 2 3 PDI⁩ x y z */
3de30f
+/* { dg-warning "U\\+2068" "" { target *-*-* } .-1 } */
3de30f
+
3de30f
+/* Same but C++ comments instead.  */
3de30f
+// a b c LRE‪ 1 2 3 PDF‬ x y z
3de30f
+/* { dg-warning "U\\+202A" "" { target *-*-* } .-1 } */
3de30f
+// a b c RLE‫ 1 2 3 PDF‬ x y z
3de30f
+/* { dg-warning "U\\+202B" "" { target *-*-* } .-1 } */
3de30f
+// a b c LRO‭ 1 2 3 PDF‬ x y z
3de30f
+/* { dg-warning "U\\+202D" "" { target *-*-* } .-1 } */
3de30f
+// a b c RLO‮ 1 2 3 PDF‬ x y z
3de30f
+/* { dg-warning "U\\+202E" "" { target *-*-* } .-1 } */
3de30f
+// a b c LRI⁦ 1 2 3 PDI⁩ x y z
3de30f
+/* { dg-warning "U\\+2066" "" { target *-*-* } .-1 } */
3de30f
+// a b c RLI⁧ 1 2 3 PDI⁩ x y
3de30f
+/* { dg-warning "U\\+2067" "" { target *-*-* } .-1 } */
3de30f
+// a b c FSI⁨ 1 2 3 PDI⁩ x y z
3de30f
+/* { dg-warning "U\\+2068" "" { target *-*-* } .-1 } */
3de30f
+
3de30f
+/* Here we're closing an unopened context, warn when =any.  */
3de30f
+/* a b c PDI⁩ x y z */
3de30f
+/* { dg-warning "U\\+2069" "" { target *-*-* } .-1 } */
3de30f
+/* a b c PDF‬ x y z */
3de30f
+/* { dg-warning "U\\+202C" "" { target *-*-* } .-1 } */
3de30f
+// a b c PDI⁩ x y z
3de30f
+/* { dg-warning "U\\+2069" "" { target *-*-* } .-1 } */
3de30f
+// a b c PDF‬ x y z
3de30f
+/* { dg-warning "U\\+202C" "" { target *-*-* } .-1 } */
3de30f
+
3de30f
+/* Multiline comments.  */
3de30f
+/* a b c PDI⁩ x y z
3de30f
+   */
3de30f
+/* { dg-warning "U\\+2069" "" { target *-*-* } .-2 } */
3de30f
+/* a b c PDF‬ x y z
3de30f
+   */
3de30f
+/* { dg-warning "U\\+202C" "" { target *-*-* } .-2 } */
3de30f
+/* first
3de30f
+   a b c PDI⁩ x y z
3de30f
+   */
3de30f
+/* { dg-warning "U\\+2069" "" { target *-*-* } .-2 } */
3de30f
+/* first
3de30f
+   a b c PDF‬ x y z
3de30f
+   */
3de30f
+/* { dg-warning "U\\+202C" "" { target *-*-* } .-2 } */
3de30f
+/* first
3de30f
+   a b c PDI⁩ x y z */
3de30f
+/* { dg-warning "U\\+2069" "" { target *-*-* } .-1 } */
3de30f
+/* first
3de30f
+   a b c PDF‬ x y z */
3de30f
+/* { dg-warning "U\\+202C" "" { target *-*-* } .-1 } */
3de30f
+
3de30f
+void
3de30f
+g1 ()
3de30f
+{
3de30f
+  const char *s1 = "a b c LRE‪ 1 2 3 PDF‬ x y z";
3de30f
+/* { dg-warning "U\\+202A" "" { target *-*-* } .-1 } */
3de30f
+  const char *s2 = "a b c RLE‫ 1 2 3 PDF‬ x y z";
3de30f
+/* { dg-warning "U\\+202B" "" { target *-*-* } .-1 } */
3de30f
+  const char *s3 = "a b c LRO‭ 1 2 3 PDF‬ x y z";
3de30f
+/* { dg-warning "U\\+202D" "" { target *-*-* } .-1 } */
3de30f
+  const char *s4 = "a b c RLO‮ 1 2 3 PDF‬ x y z";
3de30f
+/* { dg-warning "U\\+202E" "" { target *-*-* } .-1 } */
3de30f
+  const char *s5 = "a b c LRI⁦ 1 2 3 PDI⁩ x y z";
3de30f
+/* { dg-warning "U\\+2066" "" { target *-*-* } .-1 } */
3de30f
+  const char *s6 = "a b c RLI⁧ 1 2 3 PDI⁩ x y z";
3de30f
+/* { dg-warning "U\\+2067" "" { target *-*-* } .-1 } */
3de30f
+  const char *s7 = "a b c FSI⁨ 1 2 3 PDI⁩ x y z";
3de30f
+/* { dg-warning "U\\+2068" "" { target *-*-* } .-1 } */
3de30f
+  const char *s8 = "a b c PDI⁩ x y z";
3de30f
+/* { dg-warning "U\\+2069" "" { target *-*-* } .-1 } */
3de30f
+  const char *s9 = "a b c PDF‬ x y z";
3de30f
+/* { dg-warning "U\\+202C" "" { target *-*-* } .-1 } */
3de30f
+
3de30f
+  const char *s10 = "a b c LRE\u202a 1 2 3 PDF\u202c x y z";
3de30f
+/* { dg-warning "U\\+202A" "" { target *-*-* } .-1 } */
3de30f
+  const char *s11 = "a b c LRE\u202A 1 2 3 PDF\u202c x y z";
3de30f
+/* { dg-warning "U\\+202A" "" { target *-*-* } .-1 } */
3de30f
+  const char *s12 = "a b c RLE\u202b 1 2 3 PDF\u202c x y z";
3de30f
+/* { dg-warning "U\\+202B" "" { target *-*-* } .-1 } */
3de30f
+  const char *s13 = "a b c RLE\u202B 1 2 3 PDF\u202c x y z";
3de30f
+/* { dg-warning "U\\+202B" "" { target *-*-* } .-1 } */
3de30f
+  const char *s14 = "a b c LRO\u202d 1 2 3 PDF\u202c x y z";
3de30f
+/* { dg-warning "U\\+202D" "" { target *-*-* } .-1 } */
3de30f
+  const char *s15 = "a b c LRO\u202D 1 2 3 PDF\u202c x y z";
3de30f
+/* { dg-warning "U\\+202D" "" { target *-*-* } .-1 } */
3de30f
+  const char *s16 = "a b c RLO\u202e 1 2 3 PDF\u202c x y z";
3de30f
+/* { dg-warning "U\\+202E" "" { target *-*-* } .-1 } */
3de30f
+  const char *s17 = "a b c RLO\u202E 1 2 3 PDF\u202c x y z";
3de30f
+/* { dg-warning "U\\+202E" "" { target *-*-* } .-1 } */
3de30f
+  const char *s18 = "a b c LRI\u2066 1 2 3 PDI\u2069 x y z";
3de30f
+/* { dg-warning "U\\+2066" "" { target *-*-* } .-1 } */
3de30f
+  const char *s19 = "a b c RLI\u2067 1 2 3 PDI\u2069 x y z";
3de30f
+/* { dg-warning "U\\+2067" "" { target *-*-* } .-1 } */
3de30f
+  const char *s20 = "a b c FSI\u2068 1 2 3 PDI\u2069 x y z";
3de30f
+/* { dg-warning "U\\+2068" "" { target *-*-* } .-1 } */
3de30f
+}
3de30f
+
3de30f
+void
3de30f
+g2 ()
3de30f
+{
3de30f
+  const char c1 = '\u202a';
3de30f
+/* { dg-warning "U\\+202A" "" { target *-*-* } .-1 } */
3de30f
+  const char c2 = '\u202A';
3de30f
+/* { dg-warning "U\\+202A" "" { target *-*-* } .-1 } */
3de30f
+  const char c3 = '\u202b';
3de30f
+/* { dg-warning "U\\+202B" "" { target *-*-* } .-1 } */
3de30f
+  const char c4 = '\u202B';
3de30f
+/* { dg-warning "U\\+202B" "" { target *-*-* } .-1 } */
3de30f
+  const char c5 = '\u202d';
3de30f
+/* { dg-warning "U\\+202D" "" { target *-*-* } .-1 } */
3de30f
+  const char c6 = '\u202D';
3de30f
+/* { dg-warning "U\\+202D" "" { target *-*-* } .-1 } */
3de30f
+  const char c7 = '\u202e';
3de30f
+/* { dg-warning "U\\+202E" "" { target *-*-* } .-1 } */
3de30f
+  const char c8 = '\u202E';
3de30f
+/* { dg-warning "U\\+202E" "" { target *-*-* } .-1 } */
3de30f
+  const char c9 = '\u2066';
3de30f
+/* { dg-warning "U\\+2066" "" { target *-*-* } .-1 } */
3de30f
+  const char c10 = '\u2067';
3de30f
+/* { dg-warning "U\\+2067" "" { target *-*-* } .-1 } */
3de30f
+  const char c11 = '\u2068';
3de30f
+/* { dg-warning "U\\+2068" "" { target *-*-* } .-1 } */
3de30f
+}
3de30f
+
3de30f
+int a‪b‬c;
3de30f
+/* { dg-warning "U\\+202A" "" { target *-*-* } .-1 } */
3de30f
+int a‫b‬c;
3de30f
+/* { dg-warning "U\\+202B" "" { target *-*-* } .-1 } */
3de30f
+int a‭b‬c;
3de30f
+/* { dg-warning "U\\+202D" "" { target *-*-* } .-1 } */
3de30f
+int a‮b‬c;
3de30f
+/* { dg-warning "U\\+202E" "" { target *-*-* } .-1 } */
3de30f
+int a⁦b⁩c;
3de30f
+/* { dg-warning "U\\+2066" "" { target *-*-* } .-1 } */
3de30f
+int a⁧b⁩c;
3de30f
+/* { dg-warning "U\\+2067" "" { target *-*-* } .-1 } */
3de30f
+int a⁨b⁩c;
3de30f
+/* { dg-warning "U\\+2068" "" { target *-*-* } .-1 } */
3de30f
+int A‬X;
3de30f
+/* { dg-warning "U\\+202C" "" { target *-*-* } .-1 } */
3de30f
+int A\u202cY;
3de30f
+/* { dg-warning "U\\+202C" "" { target *-*-* } .-1 } */
3de30f
+int A\u202CY2;
3de30f
+/* { dg-warning "U\\+202C" "" { target *-*-* } .-1 } */
3de30f
+
3de30f
+int d\u202ae\u202cf;
3de30f
+/* { dg-warning "U\\+202A" "" { target *-*-* } .-1 } */
3de30f
+int d\u202Ae\u202cf2;
3de30f
+/* { dg-warning "U\\+202A" "" { target *-*-* } .-1 } */
3de30f
+int d\u202be\u202cf;
3de30f
+/* { dg-warning "U\\+202B" "" { target *-*-* } .-1 } */
3de30f
+int d\u202Be\u202cf2;
3de30f
+/* { dg-warning "U\\+202B" "" { target *-*-* } .-1 } */
3de30f
+int d\u202de\u202cf;
3de30f
+/* { dg-warning "U\\+202D" "" { target *-*-* } .-1 } */
3de30f
+int d\u202De\u202cf2;
3de30f
+/* { dg-warning "U\\+202D" "" { target *-*-* } .-1 } */
3de30f
+int d\u202ee\u202cf;
3de30f
+/* { dg-warning "U\\+202E" "" { target *-*-* } .-1 } */
3de30f
+int d\u202Ee\u202cf2;
3de30f
+/* { dg-warning "U\\+202E" "" { target *-*-* } .-1 } */
3de30f
+int d\u2066e\u2069f;
3de30f
+/* { dg-warning "U\\+2066" "" { target *-*-* } .-1 } */
3de30f
+int d\u2067e\u2069f;
3de30f
+/* { dg-warning "U\\+2067" "" { target *-*-* } .-1 } */
3de30f
+int d\u2068e\u2069f;
3de30f
+/* { dg-warning "U\\+2068" "" { target *-*-* } .-1 } */
3de30f
+int X\u2069;
3de30f
+/* { dg-warning "U\\+2069" "" { target *-*-* } .-1 } */
3de30f
diff --git a/gcc/testsuite/c-c++-common/Wbidi-chars-5.c b/gcc/testsuite/c-c++-common/Wbidi-chars-5.c
3de30f
new file mode 100644
3de30f
index 00000000000..68cb053144b
3de30f
--- /dev/null
3de30f
+++ b/gcc/testsuite/c-c++-common/Wbidi-chars-5.c
3de30f
@@ -0,0 +1,188 @@
3de30f
+/* PR preprocessor/103026 */
3de30f
+/* { dg-do compile } */
3de30f
+/* { dg-options "-Wbidi-chars=unpaired -Wno-multichar -Wno-overflow" } */
3de30f
+/* Test all bidi chars in various contexts (identifiers, comments,
3de30f
+   string literals, character constants), both UCN and UTF-8.  The bidi
3de30f
+   chars here are properly terminated, except for the character constants.  */
3de30f
+
3de30f
+/* a b c LRE‪ 1 2 3 PDF‬ x y z */
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* a b c RLE‫ 1 2 3 PDF‬ x y z */
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* a b c LRO‭ 1 2 3 PDF‬ x y z */
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* a b c RLO‮ 1 2 3 PDF‬ x y z */
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* a b c LRI⁦ 1 2 3 PDI⁩ x y z */
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* a b c RLI⁧ 1 2 3 PDI⁩ x y */
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* a b c FSI⁨ 1 2 3 PDI⁩ x y z */
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+
3de30f
+/* Same but C++ comments instead.  */
3de30f
+// a b c LRE‪ 1 2 3 PDF‬ x y z
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+// a b c RLE‫ 1 2 3 PDF‬ x y z
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+// a b c LRO‭ 1 2 3 PDF‬ x y z
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+// a b c RLO‮ 1 2 3 PDF‬ x y z
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+// a b c LRI⁦ 1 2 3 PDI⁩ x y z
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+// a b c RLI⁧ 1 2 3 PDI⁩ x y
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+// a b c FSI⁨ 1 2 3 PDI⁩ x y z
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+
3de30f
+/* Here we're closing an unopened context, warn when =any.  */
3de30f
+/* a b c PDI⁩ x y z */
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* a b c PDF‬ x y z */
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+// a b c PDI⁩ x y z
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+// a b c PDF‬ x y z
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+
3de30f
+/* Multiline comments.  */
3de30f
+/* a b c PDI⁩ x y z
3de30f
+   */
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-2 } */
3de30f
+/* a b c PDF‬ x y z
3de30f
+   */
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-2 } */
3de30f
+/* first
3de30f
+   a b c PDI⁩ x y z
3de30f
+   */
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-2 } */
3de30f
+/* first
3de30f
+   a b c PDF‬ x y z
3de30f
+   */
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-2 } */
3de30f
+/* first
3de30f
+   a b c PDI⁩ x y z */
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* first
3de30f
+   a b c PDF‬ x y z */
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+
3de30f
+void
3de30f
+g1 ()
3de30f
+{
3de30f
+  const char *s1 = "a b c LRE‪ 1 2 3 PDF‬ x y z";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s2 = "a b c RLE‫ 1 2 3 PDF‬ x y z";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s3 = "a b c LRO‭ 1 2 3 PDF‬ x y z";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s4 = "a b c RLO‮ 1 2 3 PDF‬ x y z";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s5 = "a b c LRI⁦ 1 2 3 PDI⁩ x y z";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s6 = "a b c RLI⁧ 1 2 3 PDI⁩ x y z";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s7 = "a b c FSI⁨ 1 2 3 PDI⁩ x y z";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s8 = "a b c PDI⁩ x y z";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s9 = "a b c PDF‬ x y z";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+
3de30f
+  const char *s10 = "a b c LRE\u202a 1 2 3 PDF\u202c x y z";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s11 = "a b c LRE\u202A 1 2 3 PDF\u202c x y z";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s12 = "a b c RLE\u202b 1 2 3 PDF\u202c x y z";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s13 = "a b c RLE\u202B 1 2 3 PDF\u202c x y z";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s14 = "a b c LRO\u202d 1 2 3 PDF\u202c x y z";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s15 = "a b c LRO\u202D 1 2 3 PDF\u202c x y z";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s16 = "a b c RLO\u202e 1 2 3 PDF\u202c x y z";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s17 = "a b c RLO\u202E 1 2 3 PDF\u202c x y z";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s18 = "a b c LRI\u2066 1 2 3 PDI\u2069 x y z";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s19 = "a b c RLI\u2067 1 2 3 PDI\u2069 x y z";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s20 = "a b c FSI\u2068 1 2 3 PDI\u2069 x y z";
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+}
3de30f
+
3de30f
+void
3de30f
+g2 ()
3de30f
+{
3de30f
+  const char c1 = '\u202a';
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char c2 = '\u202A';
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char c3 = '\u202b';
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char c4 = '\u202B';
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char c5 = '\u202d';
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char c6 = '\u202D';
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char c7 = '\u202e';
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char c8 = '\u202E';
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char c9 = '\u2066';
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char c10 = '\u2067';
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char c11 = '\u2068';
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+}
3de30f
+
3de30f
+int a‪b‬c;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int a‫b‬c;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int a‭b‬c;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int a‮b‬c;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int a⁦b⁩c;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int a⁧b⁩c;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int a⁨b⁩c;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int A‬X;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int A\u202cY;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int A\u202CY2;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+
3de30f
+int d\u202ae\u202cf;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int d\u202Ae\u202cf2;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int d\u202be\u202cf;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int d\u202Be\u202cf2;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int d\u202de\u202cf;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int d\u202De\u202cf2;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int d\u202ee\u202cf;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int d\u202Ee\u202cf2;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int d\u2066e\u2069f;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int d\u2067e\u2069f;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int d\u2068e\u2069f;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int X\u2069;
3de30f
+/* { dg-bogus "unpaired" "" { target *-*-* } .-1 } */
3de30f
diff --git a/gcc/testsuite/c-c++-common/Wbidi-chars-6.c b/gcc/testsuite/c-c++-common/Wbidi-chars-6.c
3de30f
new file mode 100644
3de30f
index 00000000000..0ce6fff2dee
3de30f
--- /dev/null
3de30f
+++ b/gcc/testsuite/c-c++-common/Wbidi-chars-6.c
3de30f
@@ -0,0 +1,155 @@
3de30f
+/* PR preprocessor/103026 */
3de30f
+/* { dg-do compile } */
3de30f
+/* { dg-options "-Wbidi-chars=unpaired" } */
3de30f
+/* Test nesting of bidi chars in various contexts.  */
3de30f
+
3de30f
+/* Terminated by the wrong char:  */
3de30f
+/* a b c LRE‪ 1 2 3 PDI⁩ x y z */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* a b c RLE‫ 1 2 3 PDI⁩ x y  z*/
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* a b c LRO‭ 1 2 3 PDI⁩ x y z */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* a b c RLO‮ 1 2 3 PDI⁩ x y z */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* a b c LRI⁦ 1 2 3 PDF‬ x y z */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* a b c RLI⁧ 1 2 3 PDF‬ x y z */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* a b c FSI⁨ 1 2 3 PDF‬ x y  z*/
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+
3de30f
+/* LRE‪ PDF‬ */
3de30f
+/* LRE‪ LRE‪ PDF‬ PDF‬ */
3de30f
+/* PDF‬ LRE‪ PDF‬ */
3de30f
+/* LRE‪ PDF‬ LRE‪ PDF‬ */
3de30f
+/* LRE‪ LRE‪ PDF‬ */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* PDF‬ LRE‪ */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+
3de30f
+// a b c LRE‪ 1 2 3 PDI⁩ x y z
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+// a b c RLE‫ 1 2 3 PDI⁩ x y  z*/
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+// a b c LRO‭ 1 2 3 PDI⁩ x y z 
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+// a b c RLO‮ 1 2 3 PDI⁩ x y z 
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+// a b c LRI⁦ 1 2 3 PDF‬ x y z 
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+// a b c RLI⁧ 1 2 3 PDF‬ x y z 
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+// a b c FSI⁨ 1 2 3 PDF‬ x y  z
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+
3de30f
+// LRE‪ PDF‬ 
3de30f
+// LRE‪ LRE‪ PDF‬ PDF‬
3de30f
+// PDF‬ LRE‪ PDF‬
3de30f
+// LRE‪ PDF‬ LRE‪ PDF‬
3de30f
+// LRE‪ LRE‪ PDF‬
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+// PDF‬ LRE‪
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+
3de30f
+void
3de30f
+g1 ()
3de30f
+{
3de30f
+  const char *s1 = "a b c LRE‪ 1 2 3 PDI⁩ x y z";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s2 = "a b c LRE\u202a 1 2 3 PDI\u2069 x y z";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s3 = "a b c RLE‫ 1 2 3 PDI⁩ x y ";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s4 = "a b c RLE\u202b 1 2 3 PDI\u2069 x y z";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s5 = "a b c LRO‭ 1 2 3 PDI⁩ x y z";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s6 = "a b c LRO\u202d 1 2 3 PDI\u2069 x y z";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s7 = "a b c RLO‮ 1 2 3 PDI⁩ x y z";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s8 = "a b c RLO\u202e 1 2 3 PDI\u2069 x y z";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s9 = "a b c LRI⁦ 1 2 3 PDF‬ x y z";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s10 = "a b c LRI\u2066 1 2 3 PDF\u202c x y z";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s11 = "a b c RLI⁧ 1 2 3 PDF‬ x y z\
3de30f
+    ";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-2 } */
3de30f
+  const char *s12 = "a b c RLI\u2067 1 2 3 PDF\u202c x y z";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s13 = "a b c FSI⁨ 1 2 3 PDF‬ x y z";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s14 = "a b c FSI\u2068 1 2 3 PDF\u202c x y z";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s15 = "PDF‬ LRE‪";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s16 = "PDF\u202c LRE\u202a";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s17 = "LRE‪ PDF‬";
3de30f
+  const char *s18 = "LRE\u202a PDF\u202c";
3de30f
+  const char *s19 = "LRE‪ LRE‪ PDF‬ PDF‬";
3de30f
+  const char *s20 = "LRE\u202a LRE\u202a PDF\u202c PDF\u202c";
3de30f
+  const char *s21 = "PDF‬ LRE‪ PDF‬";
3de30f
+  const char *s22 = "PDF\u202c LRE\u202a PDF\u202c";
3de30f
+  const char *s23 = "LRE‪ LRE‪ PDF‬";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s24 = "LRE\u202a LRE\u202a PDF\u202c";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s25 = "PDF‬ LRE‪";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s26 = "PDF\u202c LRE\u202a";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s27 = "PDF‬ LRE\u202a";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+  const char *s28 = "PDF\u202c LRE‪";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+}
3de30f
+
3de30f
+int aLRE‪bPDI⁩;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int A\u202aB\u2069C;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int aRLE‫bPDI⁩;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int a\u202bB\u2069c;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int aLRO‭bPDI⁩;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int a\u202db\u2069c2;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int aRLO‮bPDI⁩;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int a\u202eb\u2069;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int aLRI⁦bPDF‬;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int a\u2066b\u202c;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int aRLI⁧bPDF‬c
3de30f
+;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-2 } */
3de30f
+int a\u2067b\u202c;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int aFSI⁨bPDF‬;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int a\u2068b\u202c;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int aFSI⁨bPD\u202C;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int aFSI\u2068bPDF‬_;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int aLRE‪bPDF‬b; 
3de30f
+int A\u202aB\u202c;
3de30f
+int a_LRE‪_LRE‪_b_PDF‬_PDF‬;
3de30f
+int A\u202aA\u202aB\u202cB\u202c;
3de30f
+int aPDF‬bLREadPDF‬;
3de30f
+int a_\u202C_\u202a_\u202c;
3de30f
+int a_LRE‪_b_PDF‬_c_LRE‪_PDF‬;
3de30f
+int a_\u202a_\u202c_\u202a_\u202c_;
3de30f
+int a_LRE‪_b_PDF‬_c_LRE‪;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int a_\u202a_\u202c_\u202a_;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
diff --git a/gcc/testsuite/c-c++-common/Wbidi-chars-7.c b/gcc/testsuite/c-c++-common/Wbidi-chars-7.c
3de30f
new file mode 100644
3de30f
index 00000000000..d012d420ec0
3de30f
--- /dev/null
3de30f
+++ b/gcc/testsuite/c-c++-common/Wbidi-chars-7.c
3de30f
@@ -0,0 +1,9 @@
3de30f
+/* PR preprocessor/103026 */
3de30f
+/* { dg-do compile } */
3de30f
+/* { dg-options "-Wbidi-chars=any" } */
3de30f
+/* Test we ignore UCNs in comments.  */
3de30f
+
3de30f
+// a b c \u202a 1 2 3
3de30f
+// a b c \u202A 1 2 3
3de30f
+/* a b c \u202a 1 2 3 */
3de30f
+/* a b c \u202A 1 2 3 */
3de30f
diff --git a/gcc/testsuite/c-c++-common/Wbidi-chars-8.c b/gcc/testsuite/c-c++-common/Wbidi-chars-8.c
3de30f
new file mode 100644
3de30f
index 00000000000..4f54c5092ec
3de30f
--- /dev/null
3de30f
+++ b/gcc/testsuite/c-c++-common/Wbidi-chars-8.c
3de30f
@@ -0,0 +1,13 @@
3de30f
+/* PR preprocessor/103026 */
3de30f
+/* { dg-do compile } */
3de30f
+/* { dg-options "-Wbidi-chars=any" } */
3de30f
+/* Test \u vs \U.  */
3de30f
+
3de30f
+int a_\u202A;
3de30f
+/* { dg-warning "U\\+202A" "" { target *-*-* } .-1 } */
3de30f
+int a_\u202a_2;
3de30f
+/* { dg-warning "U\\+202A" "" { target *-*-* } .-1 } */
3de30f
+int a_\U0000202A_3;
3de30f
+/* { dg-warning "U\\+202A" "" { target *-*-* } .-1 } */
3de30f
+int a_\U0000202a_4;
3de30f
+/* { dg-warning "U\\+202A" "" { target *-*-* } .-1 } */
3de30f
diff --git a/gcc/testsuite/c-c++-common/Wbidi-chars-9.c b/gcc/testsuite/c-c++-common/Wbidi-chars-9.c
3de30f
new file mode 100644
3de30f
index 00000000000..e2af1b1ca97
3de30f
--- /dev/null
3de30f
+++ b/gcc/testsuite/c-c++-common/Wbidi-chars-9.c
3de30f
@@ -0,0 +1,29 @@
3de30f
+/* PR preprocessor/103026 */
3de30f
+/* { dg-do compile } */
3de30f
+/* { dg-options "-Wbidi-chars=unpaired" } */
3de30f
+/* Test that we properly separate bidi contexts (comment/identifier/character
3de30f
+   constant/string literal).  */
3de30f
+
3de30f
+/* LRE ->‪<- */ int pdf_\u202c_1;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* RLE ->‫<- */ int pdf_\u202c_2;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* LRO ->‭<- */ int pdf_\u202c_3;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* RLO ->‮<- */ int pdf_\u202c_4;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* LRI ->⁦<-*/ int pdi_\u2069_1;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* RLI ->⁧<- */ int pdi_\u2069_12;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* FSI ->⁨<- */ int pdi_\u2069_3;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+
3de30f
+const char *s1 = "LRE\u202a"; /* PDF ->‬<- */
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+/* LRE ->‪<- */ const char *s2 = "PDF\u202c";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+const char *s3 = "LRE\u202a"; int pdf_\u202c_5;
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
+int lre_\u202a; const char *s4 = "PDF\u202c";
3de30f
+/* { dg-warning "unpaired" "" { target *-*-* } .-1 } */
3de30f
diff --git a/libcpp/include/cpplib.h b/libcpp/include/cpplib.h
3de30f
index 176f8c5bbce..112b9c24751 100644
3de30f
--- a/libcpp/include/cpplib.h
3de30f
+++ b/libcpp/include/cpplib.h
3de30f
@@ -319,6 +319,17 @@ enum cpp_main_search
3de30f
   CMS_system,  /* Search the system INCLUDE path.  */
3de30f
 };
3de30f
 
3de30f
+/* The possible bidirectional control characters checking levels, from least
3de30f
+   restrictive to most.  */
3de30f
+enum cpp_bidirectional_level {
3de30f
+  /* No checking.  */
3de30f
+  bidirectional_none,
3de30f
+  /* Only detect unpaired uses of bidirectional control characters.  */
3de30f
+  bidirectional_unpaired,
3de30f
+  /* Detect any use of bidirectional control characters.  */
3de30f
+  bidirectional_any
3de30f
+};
3de30f
+
3de30f
 /* This structure is nested inside struct cpp_reader, and
3de30f
    carries all the options visible to the command line.  */
3de30f
 struct cpp_options
3de30f
@@ -539,6 +550,10 @@ struct cpp_options
3de30f
   /* True if warn about differences between C++98 and C++11.  */
3de30f
   bool cpp_warn_cxx11_compat;
3de30f
 
3de30f
+  /* Nonzero if bidirectional control characters checking is on.  See enum
3de30f
+     cpp_bidirectional_level.  */
3de30f
+  unsigned char cpp_warn_bidirectional;
3de30f
+
3de30f
   /* Dependency generation.  */
3de30f
   struct
3de30f
   {
3de30f
@@ -643,7 +658,8 @@ enum cpp_warning_reason {
3de30f
   CPP_W_C90_C99_COMPAT,
3de30f
   CPP_W_C11_C2X_COMPAT,
3de30f
   CPP_W_CXX11_COMPAT,
3de30f
-  CPP_W_EXPANSION_TO_DEFINED
3de30f
+  CPP_W_EXPANSION_TO_DEFINED,
3de30f
+  CPP_W_BIDIRECTIONAL
3de30f
 };
3de30f
 
3de30f
 /* Callback for header lookup for HEADER, which is the name of a
3de30f
diff --git a/libcpp/init.c b/libcpp/init.c
3de30f
index 5a424e23553..f9a8f5f088f 100644
3de30f
--- a/libcpp/init.c
3de30f
+++ b/libcpp/init.c
3de30f
@@ -223,6 +223,7 @@ cpp_create_reader (enum c_lang lang, cpp_hash_table *table,
3de30f
       = ENABLE_CANONICAL_SYSTEM_HEADERS;
3de30f
   CPP_OPTION (pfile, ext_numeric_literals) = 1;
3de30f
   CPP_OPTION (pfile, warn_date_time) = 0;
3de30f
+  CPP_OPTION (pfile, cpp_warn_bidirectional) = bidirectional_unpaired;
3de30f
 
3de30f
   /* Default CPP arithmetic to something sensible for the host for the
3de30f
      benefit of dumb users like fix-header.  */
3de30f
diff --git a/libcpp/internal.h b/libcpp/internal.h
3de30f
index 8577cab6c83..0ce0246c5a2 100644
3de30f
--- a/libcpp/internal.h
3de30f
+++ b/libcpp/internal.h
3de30f
@@ -597,6 +597,13 @@ struct cpp_reader
3de30f
   /* Location identifying the main source file -- intended to be line
3de30f
      zero of said file.  */
3de30f
   location_t main_loc;
3de30f
+
3de30f
+  /* Returns true iff we should warn about UTF-8 bidirectional control
3de30f
+     characters.  */
3de30f
+  bool warn_bidi_p () const
3de30f
+  {
3de30f
+    return CPP_OPTION (this, cpp_warn_bidirectional) != bidirectional_none;
3de30f
+  }
3de30f
 };
3de30f
 
3de30f
 /* Character classes.  Based on the more primitive macros in safe-ctype.h.
3de30f
diff --git a/libcpp/lex.c b/libcpp/lex.c
3de30f
index fa2253d41c3..6a4fbce6030 100644
3de30f
--- a/libcpp/lex.c
3de30f
+++ b/libcpp/lex.c
3de30f
@@ -1164,6 +1164,324 @@ _cpp_process_line_notes (cpp_reader *pfile, int in_comment)
3de30f
     }
3de30f
 }
3de30f
 
3de30f
+namespace bidi {
3de30f
+  enum class kind {
3de30f
+    NONE, LRE, RLE, LRO, RLO, LRI, RLI, FSI, PDF, PDI, LTR, RTL
3de30f
+  };
3de30f
+
3de30f
+  /* All the UTF-8 encodings of bidi characters start with E2.  */
3de30f
+  constexpr uchar utf8_start = 0xe2;
3de30f
+
3de30f
+  /* A vector holding currently open bidi contexts.  We use a char for
3de30f
+     each context, its LSB is 1 if it represents a PDF context, 0 if it
3de30f
+     represents a PDI context.  The next bit is 1 if this context was open
3de30f
+     by a bidi character written as a UCN, and 0 when it was UTF-8.  */
3de30f
+  semi_embedded_vec <unsigned char, 16> vec;
3de30f
+
3de30f
+  /* Close the whole comment/identifier/string literal/character constant
3de30f
+     context.  */
3de30f
+  void on_close ()
3de30f
+  {
3de30f
+    vec.truncate (0);
3de30f
+  }
3de30f
+
3de30f
+  /* Pop the last element in the vector.  */
3de30f
+  void pop ()
3de30f
+  {
3de30f
+    unsigned int len = vec.count ();
3de30f
+    gcc_checking_assert (len > 0);
3de30f
+    vec.truncate (len - 1);
3de30f
+  }
3de30f
+
3de30f
+  /* Return the context of the Ith element.  */
3de30f
+  kind ctx_at (unsigned int i)
3de30f
+  {
3de30f
+    return (vec[i] & 1) ? kind::PDF : kind::PDI;
3de30f
+  }
3de30f
+
3de30f
+  /* Return which context is currently opened.  */
3de30f
+  kind current_ctx ()
3de30f
+  {
3de30f
+    unsigned int len = vec.count ();
3de30f
+    if (len == 0)
3de30f
+      return kind::NONE;
3de30f
+    return ctx_at (len - 1);
3de30f
+  }
3de30f
+
3de30f
+  /* Return true if the current context comes from a UCN origin, that is,
3de30f
+     the bidi char which started this bidi context was written as a UCN.  */
3de30f
+  bool current_ctx_ucn_p ()
3de30f
+  {
3de30f
+    unsigned int len = vec.count ();
3de30f
+    gcc_checking_assert (len > 0);
3de30f
+    return (vec[len - 1] >> 1) & 1;
3de30f
+  }
3de30f
+
3de30f
+  /* We've read a bidi char, update the current vector as necessary.  */
3de30f
+  void on_char (kind k, bool ucn_p)
3de30f
+  {
3de30f
+    switch (k)
3de30f
+      {
3de30f
+      case kind::LRE:
3de30f
+      case kind::RLE:
3de30f
+      case kind::LRO:
3de30f
+      case kind::RLO:
3de30f
+	vec.push (ucn_p ? 3u : 1u);
3de30f
+	break;
3de30f
+      case kind::LRI:
3de30f
+      case kind::RLI:
3de30f
+      case kind::FSI:
3de30f
+	vec.push (ucn_p ? 2u : 0u);
3de30f
+	break;
3de30f
+      /* PDF terminates the scope of the last LRE, RLE, LRO, or RLO
3de30f
+	 whose scope has not yet been terminated.  */
3de30f
+      case kind::PDF:
3de30f
+	if (current_ctx () == kind::PDF)
3de30f
+	  pop ();
3de30f
+	break;
3de30f
+      /* PDI terminates the scope of the last LRI, RLI, or FSI whose
3de30f
+	 scope has not yet been terminated, as well as the scopes of
3de30f
+	 any subsequent LREs, RLEs, LROs, or RLOs whose scopes have not
3de30f
+	 yet been terminated.  */
3de30f
+      case kind::PDI:
3de30f
+	for (int i = vec.count () - 1; i >= 0; --i)
3de30f
+	  if (ctx_at (i) == kind::PDI)
3de30f
+	    {
3de30f
+	      vec.truncate (i);
3de30f
+	      break;
3de30f
+	    }
3de30f
+	break;
3de30f
+      case kind::LTR:
3de30f
+      case kind::RTL:
3de30f
+	/* These aren't popped by a PDF/PDI.  */
3de30f
+	break;
3de30f
+      [[likely]] case kind::NONE:
3de30f
+	break;
3de30f
+      default:
3de30f
+	abort ();
3de30f
+      }
3de30f
+  }
3de30f
+
3de30f
+  /* Return a descriptive string for K.  */
3de30f
+  const char *to_str (kind k)
3de30f
+  {
3de30f
+    switch (k)
3de30f
+      {
3de30f
+      case kind::LRE:
3de30f
+	return "U+202A (LEFT-TO-RIGHT EMBEDDING)";
3de30f
+      case kind::RLE:
3de30f
+	return "U+202B (RIGHT-TO-LEFT EMBEDDING)";
3de30f
+      case kind::LRO:
3de30f
+	return "U+202D (LEFT-TO-RIGHT OVERRIDE)";
3de30f
+      case kind::RLO:
3de30f
+	return "U+202E (RIGHT-TO-LEFT OVERRIDE)";
3de30f
+      case kind::LRI:
3de30f
+	return "U+2066 (LEFT-TO-RIGHT ISOLATE)";
3de30f
+      case kind::RLI:
3de30f
+	return "U+2067 (RIGHT-TO-LEFT ISOLATE)";
3de30f
+      case kind::FSI:
3de30f
+	return "U+2068 (FIRST STRONG ISOLATE)";
3de30f
+      case kind::PDF:
3de30f
+	return "U+202C (POP DIRECTIONAL FORMATTING)";
3de30f
+      case kind::PDI:
3de30f
+	return "U+2069 (POP DIRECTIONAL ISOLATE)";
3de30f
+      case kind::LTR:
3de30f
+	return "U+200E (LEFT-TO-RIGHT MARK)";
3de30f
+      case kind::RTL:
3de30f
+	return "U+200F (RIGHT-TO-LEFT MARK)";
3de30f
+      default:
3de30f
+	abort ();
3de30f
+      }
3de30f
+  }
3de30f
+}
3de30f
+
3de30f
+/* Parse a sequence of 3 bytes starting with P and return its bidi code.  */
3de30f
+
3de30f
+static bidi::kind
3de30f
+get_bidi_utf8 (const unsigned char *const p)
3de30f
+{
3de30f
+  gcc_checking_assert (p[0] == bidi::utf8_start);
3de30f
+
3de30f
+  if (p[1] == 0x80)
3de30f
+    switch (p[2])
3de30f
+      {
3de30f
+      case 0xaa:
3de30f
+	return bidi::kind::LRE;
3de30f
+      case 0xab:
3de30f
+	return bidi::kind::RLE;
3de30f
+      case 0xac:
3de30f
+	return bidi::kind::PDF;
3de30f
+      case 0xad:
3de30f
+	return bidi::kind::LRO;
3de30f
+      case 0xae:
3de30f
+	return bidi::kind::RLO;
3de30f
+      case 0x8e:
3de30f
+	return bidi::kind::LTR;
3de30f
+      case 0x8f:
3de30f
+	return bidi::kind::RTL;
3de30f
+      default:
3de30f
+	break;
3de30f
+      }
3de30f
+  else if (p[1] == 0x81)
3de30f
+    switch (p[2])
3de30f
+      {
3de30f
+      case 0xa6:
3de30f
+	return bidi::kind::LRI;
3de30f
+      case 0xa7:
3de30f
+	return bidi::kind::RLI;
3de30f
+      case 0xa8:
3de30f
+	return bidi::kind::FSI;
3de30f
+      case 0xa9:
3de30f
+	return bidi::kind::PDI;
3de30f
+      default:
3de30f
+	break;
3de30f
+      }
3de30f
+
3de30f
+  return bidi::kind::NONE;
3de30f
+}
3de30f
+
3de30f
+/* Parse a UCN where P points just past \u or \U and return its bidi code.  */
3de30f
+
3de30f
+static bidi::kind
3de30f
+get_bidi_ucn (const unsigned char *p, bool is_U)
3de30f
+{
3de30f
+  /* 6.4.3 Universal Character Names
3de30f
+      \u hex-quad
3de30f
+      \U hex-quad hex-quad
3de30f
+     where \unnnn means \U0000nnnn.  */
3de30f
+
3de30f
+  if (is_U)
3de30f
+    {
3de30f
+      if (p[0] != '0' || p[1] != '0' || p[2] != '0' || p[3] != '0')
3de30f
+	return bidi::kind::NONE;
3de30f
+      /* Skip 4B so we can treat \u and \U the same below.  */
3de30f
+      p += 4;
3de30f
+    }
3de30f
+
3de30f
+  /* All code points we are looking for start with 20xx.  */
3de30f
+  if (p[0] != '2' || p[1] != '0')
3de30f
+    return bidi::kind::NONE;
3de30f
+  else if (p[2] == '2')
3de30f
+    switch (p[3])
3de30f
+      {
3de30f
+      case 'a':
3de30f
+      case 'A':
3de30f
+	return bidi::kind::LRE;
3de30f
+      case 'b':
3de30f
+      case 'B':
3de30f
+	return bidi::kind::RLE;
3de30f
+      case 'c':
3de30f
+      case 'C':
3de30f
+	return bidi::kind::PDF;
3de30f
+      case 'd':
3de30f
+      case 'D':
3de30f
+	return bidi::kind::LRO;
3de30f
+      case 'e':
3de30f
+      case 'E':
3de30f
+	return bidi::kind::RLO;
3de30f
+      default:
3de30f
+	break;
3de30f
+      }
3de30f
+  else if (p[2] == '6')
3de30f
+    switch (p[3])
3de30f
+      {
3de30f
+      case '6':
3de30f
+	return bidi::kind::LRI;
3de30f
+      case '7':
3de30f
+	return bidi::kind::RLI;
3de30f
+      case '8':
3de30f
+	return bidi::kind::FSI;
3de30f
+      case '9':
3de30f
+	return bidi::kind::PDI;
3de30f
+      default:
3de30f
+	break;
3de30f
+      }
3de30f
+  else if (p[2] == '0')
3de30f
+    switch (p[3])
3de30f
+      {
3de30f
+      case 'e':
3de30f
+      case 'E':
3de30f
+	return bidi::kind::LTR;
3de30f
+      case 'f':
3de30f
+      case 'F':
3de30f
+	return bidi::kind::RTL;
3de30f
+      default:
3de30f
+	break;
3de30f
+      }
3de30f
+
3de30f
+  return bidi::kind::NONE;
3de30f
+}
3de30f
+
3de30f
+/* We're closing a bidi context, that is, we've encountered a newline,
3de30f
+   are closing a C-style comment, or are at the end of a string literal,
3de30f
+   character constant, or identifier.  Warn if this context was not
3de30f
+   properly terminated by a PDI or PDF.  P points to the last character
3de30f
+   in this context.  */
3de30f
+
3de30f
+static void
3de30f
+maybe_warn_bidi_on_close (cpp_reader *pfile, const uchar *p)
3de30f
+{
3de30f
+  if (CPP_OPTION (pfile, cpp_warn_bidirectional) == bidirectional_unpaired
3de30f
+      && bidi::vec.count () > 0)
3de30f
+    {
3de30f
+      const location_t loc
3de30f
+	= linemap_position_for_column (pfile->line_table,
3de30f
+				       CPP_BUF_COLUMN (pfile->buffer, p));
3de30f
+      cpp_warning_with_line (pfile, CPP_W_BIDIRECTIONAL, loc, 0,
3de30f
+			     "unpaired UTF-8 bidirectional control character "
3de30f
+			     "detected");
3de30f
+    }
3de30f
+  /* We're done with this context.  */
3de30f
+  bidi::on_close ();
3de30f
+}
3de30f
+
3de30f
+/* We're at the beginning or in the middle of an identifier/comment/string
3de30f
+   literal/character constant.  Warn if we've encountered a bidi character.
3de30f
+   KIND says which bidi character it was; P points to it in the character
3de30f
+   stream.  UCN_P is true iff this bidi character was written as a UCN.  */
3de30f
+
3de30f
+static void
3de30f
+maybe_warn_bidi_on_char (cpp_reader *pfile, const uchar *p, bidi::kind kind,
3de30f
+			 bool ucn_p)
3de30f
+{
3de30f
+  if (__builtin_expect (kind == bidi::kind::NONE, 1))
3de30f
+    return;
3de30f
+
3de30f
+  const auto warn_bidi = CPP_OPTION (pfile, cpp_warn_bidirectional);
3de30f
+
3de30f
+  if (warn_bidi != bidirectional_none)
3de30f
+    {
3de30f
+      const location_t loc
3de30f
+	= linemap_position_for_column (pfile->line_table,
3de30f
+				       CPP_BUF_COLUMN (pfile->buffer, p));
3de30f
+      /* It seems excessive to warn about a PDI/PDF that is closing
3de30f
+	 an opened context because we've already warned about the
3de30f
+	 opening character.  Except warn when we have a UCN x UTF-8
3de30f
+	 mismatch.  */
3de30f
+      if (kind == bidi::current_ctx ())
3de30f
+	{
3de30f
+	  if (warn_bidi == bidirectional_unpaired
3de30f
+	      && bidi::current_ctx_ucn_p () != ucn_p)
3de30f
+	    cpp_warning_with_line (pfile, CPP_W_BIDIRECTIONAL, loc, 0,
3de30f
+				   "UTF-8 vs UCN mismatch when closing "
3de30f
+				   "a context by \"%s\"", bidi::to_str (kind));
3de30f
+	}
3de30f
+      else if (warn_bidi == bidirectional_any)
3de30f
+	{
3de30f
+	  if (kind == bidi::kind::PDF || kind == bidi::kind::PDI)
3de30f
+	    cpp_warning_with_line (pfile, CPP_W_BIDIRECTIONAL, loc, 0,
3de30f
+				   "\"%s\" is closing an unopened context",
3de30f
+				   bidi::to_str (kind));
3de30f
+	  else
3de30f
+	    cpp_warning_with_line (pfile, CPP_W_BIDIRECTIONAL, loc, 0,
3de30f
+				   "found problematic Unicode character \"%s\"",
3de30f
+				   bidi::to_str (kind));
3de30f
+	}
3de30f
+    }
3de30f
+  /* We're done with this context.  */
3de30f
+  bidi::on_char (kind, ucn_p);
3de30f
+}
3de30f
+
3de30f
 /* Skip a C-style block comment.  We find the end of the comment by
3de30f
    seeing if an asterisk is before every '/' we encounter.  Returns
3de30f
    nonzero if comment terminated by EOF, zero otherwise.
3de30f
@@ -1175,6 +1493,7 @@ _cpp_skip_block_comment (cpp_reader *pfile)
3de30f
   cpp_buffer *buffer = pfile->buffer;
3de30f
   const uchar *cur = buffer->cur;
3de30f
   uchar c;
3de30f
+  const bool warn_bidi_p = pfile->warn_bidi_p ();
3de30f
 
3de30f
   cur++;
3de30f
   if (*cur == '/')
3de30f
@@ -1189,7 +1508,11 @@ _cpp_skip_block_comment (cpp_reader *pfile)
3de30f
       if (c == '/')
3de30f
 	{
3de30f
 	  if (cur[-2] == '*')
3de30f
-	    break;
3de30f
+	    {
3de30f
+	      if (warn_bidi_p)
3de30f
+		maybe_warn_bidi_on_close (pfile, cur);
3de30f
+	      break;
3de30f
+	    }
3de30f
 
3de30f
 	  /* Warn about potential nested comments, but not if the '/'
3de30f
 	     comes immediately before the true comment delimiter.
3de30f
@@ -1208,6 +1531,8 @@ _cpp_skip_block_comment (cpp_reader *pfile)
3de30f
 	{
3de30f
 	  unsigned int cols;
3de30f
 	  buffer->cur = cur - 1;
3de30f
+	  if (warn_bidi_p)
3de30f
+	    maybe_warn_bidi_on_close (pfile, cur);
3de30f
 	  _cpp_process_line_notes (pfile, true);
3de30f
 	  if (buffer->next_line >= buffer->rlimit)
3de30f
 	    return true;
3de30f
@@ -1218,6 +1543,13 @@ _cpp_skip_block_comment (cpp_reader *pfile)
3de30f
 
3de30f
 	  cur = buffer->cur;
3de30f
 	}
3de30f
+      /* If this is a beginning of a UTF-8 encoding, it might be
3de30f
+	 a bidirectional control character.  */
3de30f
+      else if (__builtin_expect (c == bidi::utf8_start, 0) && warn_bidi_p)
3de30f
+	{
3de30f
+	  bidi::kind kind = get_bidi_utf8 (cur - 1);
3de30f
+	  maybe_warn_bidi_on_char (pfile, cur, kind, /*ucn_p=*/false);
3de30f
+	}
3de30f
     }
3de30f
 
3de30f
   buffer->cur = cur;
3de30f
@@ -1233,9 +1565,31 @@ skip_line_comment (cpp_reader *pfile)
3de30f
 {
3de30f
   cpp_buffer *buffer = pfile->buffer;
3de30f
   location_t orig_line = pfile->line_table->highest_line;
3de30f
+  const bool warn_bidi_p = pfile->warn_bidi_p ();
3de30f
 
3de30f
-  while (*buffer->cur != '\n')
3de30f
-    buffer->cur++;
3de30f
+  if (!warn_bidi_p)
3de30f
+    while (*buffer->cur != '\n')
3de30f
+      buffer->cur++;
3de30f
+  else
3de30f
+    {
3de30f
+      while (*buffer->cur != '\n'
3de30f
+	     && *buffer->cur != bidi::utf8_start)
3de30f
+	buffer->cur++;
3de30f
+      if (__builtin_expect (*buffer->cur == bidi::utf8_start, 0))
3de30f
+	{
3de30f
+	  while (*buffer->cur != '\n')
3de30f
+	    {
3de30f
+	      if (__builtin_expect (*buffer->cur == bidi::utf8_start, 0))
3de30f
+		{
3de30f
+		  bidi::kind kind = get_bidi_utf8 (buffer->cur);
3de30f
+		  maybe_warn_bidi_on_char (pfile, buffer->cur, kind,
3de30f
+					   /*ucn_p=*/false);
3de30f
+		}
3de30f
+	      buffer->cur++;
3de30f
+	    }
3de30f
+	  maybe_warn_bidi_on_close (pfile, buffer->cur);
3de30f
+	}
3de30f
+    }
3de30f
 
3de30f
   _cpp_process_line_notes (pfile, true);
3de30f
   return orig_line != pfile->line_table->highest_line;
3de30f
@@ -1346,11 +1700,13 @@ static const cppchar_t utf8_signifier = 0xC0;
3de30f
 
3de30f
 /* Returns TRUE if the sequence starting at buffer->cur is valid in
3de30f
    an identifier.  FIRST is TRUE if this starts an identifier.  */
3de30f
+
3de30f
 static bool
3de30f
 forms_identifier_p (cpp_reader *pfile, int first,
3de30f
 		    struct normalize_state *state)
3de30f
 {
3de30f
   cpp_buffer *buffer = pfile->buffer;
3de30f
+  const bool warn_bidi_p = pfile->warn_bidi_p ();
3de30f
 
3de30f
   if (*buffer->cur == '$')
3de30f
     {
3de30f
@@ -1373,6 +1729,13 @@ forms_identifier_p (cpp_reader *pfile, int first,
3de30f
       cppchar_t s;
3de30f
       if (*buffer->cur >= utf8_signifier)
3de30f
 	{
3de30f
+	  if (__builtin_expect (*buffer->cur == bidi::utf8_start, 0)
3de30f
+	      && warn_bidi_p)
3de30f
+	    {
3de30f
+	      bidi::kind kind = get_bidi_utf8 (buffer->cur);
3de30f
+	      maybe_warn_bidi_on_char (pfile, buffer->cur, kind,
3de30f
+				       /*ucn_p=*/false);
3de30f
+	    }
3de30f
 	  if (_cpp_valid_utf8 (pfile, &buffer->cur, buffer->rlimit, 1 + !first,
3de30f
 			       state, &s))
3de30f
 	    return true;
3de30f
@@ -1381,6 +1744,13 @@ forms_identifier_p (cpp_reader *pfile, int first,
3de30f
 	       && (buffer->cur[1] == 'u' || buffer->cur[1] == 'U'))
3de30f
 	{
3de30f
 	  buffer->cur += 2;
3de30f
+	  if (warn_bidi_p)
3de30f
+	    {
3de30f
+	      bidi::kind kind = get_bidi_ucn (buffer->cur,
3de30f
+					      buffer->cur[-1] == 'U');
3de30f
+	      maybe_warn_bidi_on_char (pfile, buffer->cur, kind,
3de30f
+				       /*ucn_p=*/true);
3de30f
+	    }
3de30f
 	  if (_cpp_valid_ucn (pfile, &buffer->cur, buffer->rlimit, 1 + !first,
3de30f
 			      state, &s, NULL, NULL))
3de30f
 	    return true;
3de30f
@@ -1489,6 +1859,7 @@ lex_identifier (cpp_reader *pfile, const uchar *base, bool starts_ucn,
3de30f
   const uchar *cur;
3de30f
   unsigned int len;
3de30f
   unsigned int hash = HT_HASHSTEP (0, *base);
3de30f
+  const bool warn_bidi_p = pfile->warn_bidi_p ();
3de30f
 
3de30f
   cur = pfile->buffer->cur;
3de30f
   if (! starts_ucn)
3de30f
@@ -1512,6 +1883,8 @@ lex_identifier (cpp_reader *pfile, const uchar *base, bool starts_ucn,
3de30f
 	    pfile->buffer->cur++;
3de30f
 	  }
3de30f
       } while (forms_identifier_p (pfile, false, nst));
3de30f
+      if (warn_bidi_p)
3de30f
+	maybe_warn_bidi_on_close (pfile, pfile->buffer->cur);
3de30f
       result = _cpp_interpret_identifier (pfile, base,
3de30f
 					  pfile->buffer->cur - base);
3de30f
       *spelling = cpp_lookup (pfile, base, pfile->buffer->cur - base);
3de30f
@@ -1758,6 +2131,7 @@ static void
3de30f
 lex_raw_string (cpp_reader *pfile, cpp_token *token, const uchar *base)
3de30f
 {
3de30f
   const uchar *pos = base;
3de30f
+  const bool warn_bidi_p = pfile->warn_bidi_p ();
3de30f
 
3de30f
   /* 'tis a pity this information isn't passed down from the lexer's
3de30f
      initial categorization of the token.  */
3de30f
@@ -1994,8 +2368,15 @@ lex_raw_string (cpp_reader *pfile, cpp_token *token, const uchar *base)
3de30f
 	  pos = base = pfile->buffer->cur;
3de30f
 	  note = &pfile->buffer->notes[pfile->buffer->cur_note];
3de30f
 	}
3de30f
+      else if (__builtin_expect ((unsigned char) c == bidi::utf8_start, 0)
3de30f
+	       && warn_bidi_p)
3de30f
+	maybe_warn_bidi_on_char (pfile, pos - 1, get_bidi_utf8 (pos - 1),
3de30f
+				 /*ucn_p=*/false);
3de30f
     }
3de30f
 
3de30f
+  if (warn_bidi_p)
3de30f
+    maybe_warn_bidi_on_close (pfile, pos);
3de30f
+
3de30f
   if (CPP_OPTION (pfile, user_literals))
3de30f
     {
3de30f
       /* If a string format macro, say from inttypes.h, is placed touching
3de30f
@@ -2090,15 +2471,27 @@ lex_string (cpp_reader *pfile, cpp_token *token, const uchar *base)
3de30f
   else
3de30f
     terminator = '>', type = CPP_HEADER_NAME;
3de30f
 
3de30f
+  const bool warn_bidi_p = pfile->warn_bidi_p ();
3de30f
   for (;;)
3de30f
     {
3de30f
       cppchar_t c = *cur++;
3de30f
 
3de30f
       /* In #include-style directives, terminators are not escapable.  */
3de30f
       if (c == '\\' && !pfile->state.angled_headers && *cur != '\n')
3de30f
-	cur++;
3de30f
+	{
3de30f
+	  if ((cur[0] == 'u' || cur[0] == 'U') && warn_bidi_p)
3de30f
+	    {
3de30f
+	      bidi::kind kind = get_bidi_ucn (cur + 1, cur[0] == 'U');
3de30f
+	      maybe_warn_bidi_on_char (pfile, cur, kind, /*ucn_p=*/true);
3de30f
+	    }
3de30f
+	  cur++;
3de30f
+	}
3de30f
       else if (c == terminator)
3de30f
-	break;
3de30f
+	{
3de30f
+	  if (warn_bidi_p)
3de30f
+	    maybe_warn_bidi_on_close (pfile, cur - 1);
3de30f
+	  break;
3de30f
+	}
3de30f
       else if (c == '\n')
3de30f
 	{
3de30f
 	  cur--;
3de30f
@@ -2115,6 +2508,11 @@ lex_string (cpp_reader *pfile, cpp_token *token, const uchar *base)
3de30f
 	}
3de30f
       else if (c == '\0')
3de30f
 	saw_NUL = true;
3de30f
+      else if (__builtin_expect (c == bidi::utf8_start, 0) && warn_bidi_p)
3de30f
+	{
3de30f
+	  bidi::kind kind = get_bidi_utf8 (cur - 1);
3de30f
+	  maybe_warn_bidi_on_char (pfile, cur - 1, kind, /*ucn_p=*/false);
3de30f
+	}
3de30f
     }
3de30f
 
3de30f
   if (saw_NUL && !pfile->state.skipping)